张作霖参谋长的名字叫做杨宇霆。杨宇霆，字邻葛，1885年出生于奉天法库，是奉军中的核心人物。杨宇霆毕业于日本陆军士官学校，有专业的军事基础。在张作霖担任第二十七师师长的时候，就选中了杨宇霆担任师里的参谋长。杨宇霆在担任参谋长期间，大力整顿军风军纪，并且取得了一定的成效，张作霖发现后，开始渐渐地重用了杨宇霆。
1916年，张作霖被黎元洪大总统任命为奉天督军及省长，于是张作霖就又让杨宇霆担任奉天督军参谋长。1918年，直系军阀政府向日本人借钱用于购买军火。杨宇霆建议张作霖去劫持这批军火，张作霖听完表示同意，并将整个事情交给杨宇霆去办。杨宇霆在同学徐树铮的配合下，成功的将这批军火拿下，至此，杨宇霆也开始走进了奉军的核心区域。
之后，杨宇霆在其好友徐树铮的鼓动下，妄图发展个人势力，还冒领了370万元的军饷。这件事被张作霖知道后，就将杨宇霆撤职了。但是张作霖真的十分爱惜杨宇霆的才智，于是在1921年重新启用杨宇霆，让他担任东三省巡阅使属总参议的职务，这个总参议其实就是总参谋长的意思。因此杨宇霆这么多年，不管张作霖在哪个部队都跟着他，那是因为杨宇霆一直是张作霖的参谋长。