东魏北齐的军队体制大体沿袭北魏,也分为中兵、镇戍兵、州郡兵三部分,但其军制也有自己的特点,这就是夷汉分兵制。
东魏北齐的开创者高欢在起事之初,赖以成事的都是鲜卑或鲜卑化了的其他少数民族和汉人。后来魏孝武帝西奔,随他入关的洛阳“六坊”鲜卑不过万人,其余的“六坊”鲜卑兵大都归了高欢。因此,东魏的军队主体是鲜卑兵,总数当在20万以上。高欢所采取的是以鲜卑人打仗,汉人务农纳粮的作法。当时,也有汉人兵,但与鲜卑兵分开,单立一军,由汉人统率。北齐时,文宣帝挑选鲜卑兵中勇力绝众者组成精兵,号称“百保鲜卑”。同时,“又简华人之勇力绝伦者,谓之勇士,以备边要”。后北齐又正式以汉人服兵役,仍取高欢时作法,以汉人兵单为一军。高欢在东魏任丞相时,曾于相府内设内、外二曹主管兵事,内曹是骑兵曹,掌中兵鲜卑兵事;外曹是步兵曹,掌外兵汉人兵事。北齐代魏后,相府诸司并于尚书,唯内、外二曹一度不废,改称外兵省、骑兵省,仍掌兵事。内、外二曹的设立,也是夷汉分兵制的产物。后来北齐尚书省中的五兵尚书所辖尚书郎,也分为掌中兵鲜卑兵事及外军汉人兵两部分。