1885年，21岁的段祺瑞以优异成绩考入李鸿章兴办的天津武备学堂，也称北洋武备学堂。段祺瑞专攻炮科，同时兼修兵法、地理、军器、算法、测纷等课程。正是在这所北洋陆军学堂里，段祺瑞崭露头角，开始声名显赫。1887年，段祺瑞以“最优等”的成绩毕业，奉命赴旅顺监修炮台。这期间，他赶至合肥老家迎娶他在宿迁结识的未婚妻吴氏，次年生下长子宏业。
段祺瑞的元配吴夫人病逝后，袁世凯为更好地驾驭“北洋之虎”，即以美人为诱饵，把他的干女儿前清江西巡抚张芾的孙女嫁给了段祺瑞。
张夫人名叫张佩蘅，原籍陕西，也是官宦之家，和袁世凯是世交。袁世凯的大太太于夫人只生袁克定一个儿子，没有闺女，就把张佩蘅认作义女。张佩蘅见着袁世凯夫妇，一口一个爸爸、妈妈，非常亲热。
段祺瑞断弦以后，便由袁世凯主婚，把张佩蘅嫁给了段祺瑞，从此袁段二人除了多年袍泽关系之外，无形中又成了亲戚。这和袁世凯给冯国璋撮合婚姻一样，都是他笼络部属的惯用手法。当时张佩蘅经常到总统府里去。那时袁世凯在怀仁堂，于夫人住在福光居，尽管当时总统府门禁森严，可是张佩蘅一打电话，就可以坐着马车从新华门进去，畅行无阻。
