明太祖朱元璋在推翻元朝以及与打击其他地方强势力量的同时，对于军事的编制制度也非常的重视。在元至正十六年的时候，明太祖攻打集庆并取得了胜利后，便将枢密院作为最高的军事统治机构，自己则担任元帅一职。随着明太祖朱元璋在战争中的不断胜利，他又设“最重要的军政机关”即江南的行中书省，并在其一定势力范围内设立了众多府院。

在之后的战争中，朱元璋通过不断地胜利成为了可以独当一面的地方霸主，为了更好的管理自己的军队，他开始在各地又接着设置了一些包括亲军指挥使司、宿卫军、元帅、千户、上千户、都指挥使、指挥同知和指挥佥事等一些重大的官职。由此，卫所制度初步形成。明代卫所制中，都指挥大师一般约5600人，即为一卫，而大约1120人就为一所，在一般情况中，在每一卫中又设立了前、后、左、右以及中五个千户所，对于百户所的建立又基本以120个人作为一个单位，在百户所下，又分别设立了总旗两个，小旗十个。