汉朝的军制，基本上承袭了秦军制。根据《后汉书百官》的记载，这里有“大将军营五部” ，部由校尉指挥。“部下有曲 ,曲有军候一人” ，”曲下有屯， 屯长一人”由此可见，西汉军队最大的作战单位是军队，其次是营、部、曲、屯。所以汉军最大的作战单位为军。

汉代的行政制度比较特殊。西汉初年，由于实行郡县制，军队构成比较混乱。例如，朝廷拥有首京兵、来自郡县，地方上郡县有地方兵、王爵、侯爵之国亦有自己的军队，另外还有少量的边防军。这种混乱的构成酿成了七国之乱，但分封国的势力并没有从根本上得到解决。直到汉武帝实行“推恩令”，才彻底解决了这些郡国势力。

如果发生战争，那便要随时应召入伍，“十五从军征，八十始得归”便是一种特殊情况。在汉代，即罪犯或弟子已经被派去服役。通常称之为“驻军”西汉除了征兵制，还实行募兵制。武帝的八校主要是招募而来。去年底州县官员通过招兵买马培养自己的势力，导致割据局面。

汉朝时，武帝招募熟悉北方少数民族情况的人组成“胡骑”，招募熟悉南方事务的人组成“越骑”。东汉后期，由于军阀割据，坞堡林立，大量农民被军阀占领，成为他们的一部分(接近奴隶的私人力量)，造成了东汉末年的乱局。