清末张担任奉天童军营前都督，这是地方部队的一个官职，但查阅资料时无一人说是几个官员。不过他的工作人员是列车员，所以推测这个官不会太大，也就是六七品的样子。相当于现在的旅团干部。

张能够出任东三省巡抚，是北洋政府与地方旁系妥协的结果。张不是袁世凯的嫡系，北洋政府也不希望有一个强敌在榻边。于是，袁世凯从辛亥革命开始，又推又拉张当了二十七师师长。张从来没有想过放弃他现有的利益。一方面与袁世凯斡旋，一方面积蓄力量。久而久之，他成了奉天的地头蛇。1916年，张威逼赶走奉天总督段，并利用冯参加复辟，夺取其二十八师军权。

等到徐世昌当上北洋政府大总统的时候，张在东三省已经大到不能倒了。基于这些考虑，徐世昌任命张为东三省客座大使。东北三省巡抚是黑龙江、吉林、奉天三省巡抚的统称，也监管民政，属于东北三省军政首脑。在张已有控制事实的情况下，北洋政府被动地授予张如此高的职位。在我国历史上，并没有巡抚这样的官职，因为实际上它掌控着很多省份的军政，只有清朝的巡抚才能与之相比。

辛亥革命爆发后，张迅速率部进入奉天镇镇压革命党人，保护东三省总督赵尔逊。之后清廷任命张为关外军训大臣，改本部为北洋二十四镇，张升为都督，并兼任奉天童军营总经理。奉天的兵权就这样落入了张的手中。

1912年9月，中华民国成立后，袁世凯总统下令对东北三省的部队进行大改组。张任中路、原巡防营营长，改编为第27军分区，驻奉天。张被任命为的军长。这是张人生中的第一个军衔，从开始，今年38岁。

四年后的1916年4月，袁世凯封张为奉天将军，主管奉天军务和巡察。袁世凯死后，总统李任命张为奉天总督。

民国七年(1918年)，张为扩充军队，抢夺日军在秦皇岛直接购买的军火。此后，张以东北为根据地，不断向山海关内扩张势力。1920年7月直皖战争爆发前，他和直系亲属共同控制了北京政府。1920年10月10日，张被北洋政府授予镇将军称号，荣获民国最高军衔——将军。