征战路上，由于张宗昌所部军纪极坏，被老百姓称作“三光”、“二翻”、“一空”的队伍。 “三光”即把百姓的鸡鸭猪狗吃光、马牛驴骡等牲口拉光、门窗橱柜做饭烧光;“二翻”即翻箱倒柜、翻挖屋内地砖和墙角寻找财宝;“一空”即把屋内能拿的东西拿走，不能拿的搬出，以便搜寻财物，使房内一空。张学成率部途径临渝县(今秦皇岛境内)千沟镇时，纵容士兵任意杀猪、宰羊、抓鸡，祸害乡民，还烧杀抢掠、奸淫妇女、无恶不作，在当地引起极大的民愤。乡民们把张学成告到军团长张学良那里，张学良恼怒张学成戕害百姓，为害地方，遂将张学成撤职。张学成被撤了职，并没有汲取教训，痛改前非，反而对张学良产生强烈的不满，认为张学良六亲不认，借机踩踏自己。

　　1928年6月，张学良执政东北，托人带信给张学成，让张学成回东北，张学成没有回音。这年夏天，张宗昌的部队被北伐军击溃，张宗昌逃往大连。失去依靠的张学成在这种情况下也不愿意回到张学良身边，而是转身投靠了军阀石友三。

石友三是有名的倒戈将军，典型的见利忘义之徒，为人多疑，贪得无厌。早年跟随冯玉祥，是冯玉祥身边的“十三太保”之一。虽然是冯玉祥将他一手提拔起来，他却忘恩负义，三度背叛冯玉祥。以后，投靠阎锡山后反阎，投靠蒋介石后反蒋，投奔张学良后反张，联合共产党后反共，最后被部下新8军军长高树勋活埋于黄河岸边，成了河畔孤鬼。

　　1930年中原大战爆发，原本投靠阎锡山、冯玉祥的石友三见张学良率军入关，冯阎军呈现败势，于是通电投靠张学良。 1931年春天，石友三亲赴沈阳谒见张学良。张学良将其部万余人收编为第13路军，驻防河北顺德，每月发定额军饷60万元。

　　石友三表面归顺张学良，暗中却又准备夺取“华北王”的宝座。 1931年5月，汪精卫、陈济棠、李宗仁在广州另组国民政府，委任石友三为第5集团军总司令。 6月间，石友三密电张学成，要他去大连与日本关东军联系，以取得日本人的帮助。 7月，石友三宣誓就任第五集团军总司令职，以张学良所给军费少为由，发出讨张通电，联合孙殿英、刘桂堂等部沿平汉路北进，攻打东北军，张学成也在这讨张大军中，为石友三出谋划策。 7月24日，南京政府下令免去石友三本兼各职，派刘峙、胡宗南讨伐。东北军以万福麟为总司令，率于学忠、王树常两集团军进攻。石友三受到南北两面夹击，以失败告终。张学成逃往天津日租界隐居。

　　卖身投靠日本人

　　“九一八”事变爆发后，张家人、包括张学成的母亲、弟妹都逃离沈阳，张学成却从天津跑回沈阳，找到昔日的日本浪人朋友，终日与这些人饮酒作乐，并对日本人放出话说，自己虽是张氏宗族、张学良的堂兄弟，但愿意与日本人一道来收拾东北残局。当时，汉奸凌印清刚刚被义勇军歼灭，日本关东军正在物色其替代人，张学成的话传到关东军后，关东军司令官本庄繁马上把张学成找到关东军司令部，对他说：“日军进攻东北原无侵占中国东北之意，本意促使张学良觉悟，脱离蒋介石的牢笼，速归东北，实行中日亲善，共存共荣，共同保卫满蒙，防御赤化势力的侵入。可是令兄张学良执迷不悟，反倒与我们反目为仇。现请你出来共同协力剿灭辽西的东北残军，恢复东北秩序。我保你做一个东北军政两方面的大首领。”

　　张学成说：“张学良是个糊涂虫，我从小与他一起长大，我还不知道他?我最不服气的就是他。司令官如此看重我，我一定竭尽全力，效犬马之劳。”

　　本庄繁任命张学成为“东北自卫军总司令”，张学成受宠若惊，将司令部设在黑山县高山子附近，收编胡匪及凌印清残部，大肆招兵买马，很快就扩充了4000多人，下设8个支队。