1925年8月，刘峙因功升任为第一军第一师第一团团长(此时第一军共两个师9个团)，与三团团长钱大钧、五团团长蒋鼎文、九团团长卫立煌同列。4个月后，刘峙又升任为第二师师长，居于军长何应钦之下，陈继承、蒋鼎文成为他的部下。
刘峙除了善战，还很忠诚，达到了蒋介石所需要的“愚忠”境界。
1926年3月的“中山舰”事件中，刘峙率领第二师忠实地执行蒋介石的命令，扣押了第二师和海军中的所有党代表及中共党员。遭到质疑时，他老老实实说：“我也不完全了解，我是以校长的意思为意思，校长命令我干什么，我就干什么。”
蒋介石对此自然十分满意。黄埔军校荟萃四海英豪，能打仗者不乏其人，比如邓演达、蒋先云之辈。但既会打仗，又能“以校长的意思为意思”，不和“校长”唱反调的人，才是蒋介石需要的最理想人才。
1926年7月北伐开始后，刘峙的第二师与王柏龄的第一师担任总预备队，统归王柏龄指挥。但在南昌激战中，王柏龄不战而逃，蒋介石便任命刘峙接替其指挥官一职。刘峙上任后，击溃南浔铁路正面的孙传芳部。不久，他又会同其他部队拿下江西全境，乘胜进军浙江，攻占杭州、进驻上海，可谓一路势如破竹。
1927年“四·一二”政变中，刘峙又为蒋介石走上“领袖”位置立下“殊勋”。事变前，蒋介石征询上海警备司令白崇禧意见：需要多少部队?白崇禧说，刘峙之第二师及周凤歧之26军便够了。
周凤歧是刚投诚的浙江军阀(后因反蒋被特务暗杀)，真正得力的骨干只有“以校长的意思为意思”的刘峙。蒋介石“四·一二”政变后成功另立“中央”，刘峙的“拥戴”之功自然不可磨灭。
1937 年7 月7 日，日本帝国主义发动了"卢沟桥事变"。8 月12日，刘峙被任命为第一战区第二集团军总司令，率部由开封进驻保定，防守平汉路沿线。同时防守这一地区的还有卫立煌的第十四集团军，商震的第二十集团军，万福麟的第五十三军等。平津失陷后，日军气焰嚣张，从北平、天津分三路展开攻势，一路沿平汉线南犯，袭击涿县、保定、石家庄；一路由津浦线南侵，直取沧县、德州；另一路沿平绥线西出南口，向晋察绥进攻。刘峙以主力固守涿州，以孙连仲军守平汉路上的良乡，以万福麟军守固安，以孙殿英军守门头沟，布成三道防线，他自己坐镇保定指挥。8 月上旬，孙连仲部冯安邦师即在良乡西南窦家店与日军河边旅团对峙。自8 月21 日起，两军炮火猛烈，但孙军终因兵力薄弱而不支，良乡及房山均陷敌手。
同时，日军从固安偷渡永定河，以飞机、大炮猛轰右翼万福麟阵地，只用一天，便把万部击溃，直插保定。刘峙惊慌失措，率总部沿平汉线南逃，一口气逃到石家庄，忙将兵权移交商震、黄绍竑。刘峙不战而逃，把华北的大地拱手让给日寇，时人送他一个外号"长跑将军"。
1948年5月，何应钦就任国防部长后，不忘自己这位“哼哈二将”之一，重新向蒋介石推荐他担任徐州“剿总”总司令，掌管关内绝大部分黄埔嫡系队伍，看护南京的大门。
蒋介石尽管看在刘峙忠诚可靠的份上接受了这一建议，但终究不放心，随即又任命黄埔一期生、抗日名将杜聿明为徐州“剿总”副总司令兼前进指挥部主任，具体负责作战指挥。