宋朝军队实施以募兵为主，征兵为辅的军队构成，实行自愿性的募兵制[参 55],并且将灾年招募流民、饥民当兵，作为一项传统的国策，有社会福利性质，起到稳定政权作用[注 18][注 19]。北宋军队分为四种，即禁军、厢军、乡兵、藩兵，其中禁军厢军为募兵，乡兵藩兵为征兵。禁军是直属朝廷的正规军，也是宋朝军队的主力，虽名禁军，实际上奉皇命出戍八方，分守天下要紧之处，而非仅仅戍守京师。厢军是各州的镇兵，由地方长官控制，但在重内轻外的国策下，精干兵员均被抽调至禁军，因此厢军战斗力低下，实际上只负责地方治安与后勤杂役，军事任务均交予同驻地的禁军。此外，乡兵则是按机关抽调的壮丁，藩兵则是防守在边境的非汉民族军队[参 56]。靖康之变以后，原有的禁军战力遭受毁灭性破坏，故开始依赖诸如岳家军这样的武将自建军队。绍兴以后，朝廷重新收拢兵权，岳家军等“行营护军”逐步演化为直属中央，戍守固定区域，由武将直接统领的地方正规军，号称“御前诸军”，俗谓“屯驻大兵”，取代了原本禁军的主力地位。
禁军方面，北宋初年沿袭后周制度，设殿前司和侍卫亲军司以统率，合称两司[参 57]，设有殿前司都点检、殿前司副都点检、殿前司都指挥使、殿前司副都指挥使、殿前司都虞侯、侍卫亲军司马步军都指挥使、侍卫亲军司马步军副都指挥使、侍卫亲军司马步军都虞侯、侍卫亲军司马军都指挥使、侍卫亲军司马军副都指挥使、侍卫亲军司马军都虞侯、侍卫亲军司步军都指挥使、侍卫亲军司步军副都指挥使、侍卫亲军司步军都虞侯等高级军职。宋太祖为加强皇权和军事阶层的稳定，决定加强中央集权，防止武将剥夺权利[参 58]。建隆二年三月，宋太祖削去殿前司都点检这个重要的禁军军职。同年七月，宋太祖通过杯酒释兵权解除武将的军权，同时废除殿前司副都点检一职[参 59]，侍卫亲军司马步军都指挥使和副都指挥使长时间不置[参 60]，真宗景德二年废置侍卫亲军司都虞侯[参 61]，侍卫亲军司分为侍卫亲军马军司和侍卫亲军步军司，前两者和殿前司并称三衙，至此完成了从两司到三衙门的演变，三衙分别由殿前司都指挥使、侍卫亲军司马军都指挥使和侍卫亲军司步军都指挥使统领。但是，三衙虽有掌兵之实，却无发兵之权，具体的军事谋划与武官奖惩任命由枢密院负责。
宋朝在三衙以外，另设枢密院以司符节边备、武官铨选等战略规划事务，与三衙并为最高军政机关。枢密院直接对皇帝负责，太祖、太宗之时，其他任何官员，即便是宰相，未得皇帝许可都不得过问枢密院事务。该项规定后来逐渐松弛，南宋时由宰相兼枢密使渐成惯例。而枢密院虽能发兵，且掌统兵官任免之权，却不能直接统军，这样就导致统兵权与调兵权的分离。宋朝又实行更戍法，经常更换统兵将领，同时打散禁军的番号军、厢、厢下军等高级编制，调配军力时以满编五百人的“指挥”（营）为单位进行调动，作战时经常将来自不同军厢的指挥交予未曾管理过这些兵士的武官指挥。如是，使将不得专其兵，以防止军队中出现个人势力[参 62]。此外战争时战区最高司令皆由文官或太监担任，而且改变战略必须经过皇帝同意，对宋朝战力有负面影响。宋朝实行“崇文抑武，以文制武”，真宗朝以后，枢密院使和枢密院副使多由文臣出身者担任，少数武臣曾入枢密院，但都遭到文臣以祖宗成法反对[参 63]，都遭到罢黜。真宗以后，以文官任统兵官，督率武将，渐成惯例；安抚使、经略安抚使由文官担任，武将担任都部署（都总管）、副都部署、部署（总管）、副部署、钤辖、巡检、都监，号为将官，领兵马，受指挥。宋朝的建国兵力部署“守内虚外”，但在熙宁年后首都驻军减少[注 20]。
北宋中期以后对辽、西夏等国的战争，使得军事费用增加，对统兵将帅限制太多“权任轻而法制密”，将不专兵，动相牵掣，“元戎不知其将校之能否，将校不知三军之勇怯，各不相管辖，以谦让自任。”[参 64] 同时，军纪不明使宋军严重缺乏训练，终日“游戏于廛市间，以鬻巧诱画为业，衣服举措不类军兵”[参 65]“卫兵入宿不自持被而使人持之；禁兵给粮不自荷而雇人荷之。”[参 66]。张演评说：“宋朝之待武臣也，厚其禄而薄其礼。”[参 67]王夫之指出：“宋所忌者，宣力之武臣耳，非偷生邀宠之文士也”[参 68]。针对以上弊端，熙丰变法后开始实行置将法，将禁军分为“繋将禁军”与“不繋将禁军”，“不繋将禁军”诸指挥（营）仍如旧法，“繋将禁军”诸指挥（营）则被组织为固定的大编制单位“将”，不行更戍法，一般驻扎在固定的地域，由固定的将司长贰官员正将与副将负责管理与指挥。各地置将法实施状况不同，其中边事繁重的陕西、河东实施较为彻底，东南诸路禁军则仍以不繋将禁军为主[参 69]。
南宋军队的主力为屯驻大兵以及三衙。屯驻大兵战斗力较强，原本是武将自行召募部队，如岳家军，有“撼山易，撼岳家军难”之说。这时朝廷控制军队的能力已经弱化，枢密院的权责也逐渐缩小。绍兴十一年，韩世忠、岳飞等将领的兵权相继被削减，屯驻大兵逐渐演变为中央统管的正规地方军，与禁军三衙平行[参 70]。
宋代军事技术的巨大进步，宋朝以前仍处于冷兵器时代，从宋朝开始火器登上战争舞台，使用霹雳炮、震天雷、引火球、铁火炮、火箭、火球、火枪、火炮等火器，逐步进入冷兵器和火器并用时代。水战装具的发展，舟师仍在江河、濒海地区发展，南宋时还尚有车船。投石机方面有车行炮、单梢炮、七梢炮与旋风炮等[参 71]。各代中央和地方多设立兵器制造与管理机构，严格控制兵器的制造和发放，还规定有兵器查验、维修和授予制度。
在兵种结构上，步兵为主要兵种，并配有少量骑兵，车兵则逐步消失。没有北方良好牧地提供足够战马与驮马的问题终宋一代始终困扰著宋国军备(尤其在主要敌国辽、金皆有优势骑兵的情况下特别严重)，并成为两宋灭亡的重要原因之一。
城防设施发展出城制、弩台、敌楼等设施。其中以山城防御体制最具有名，南宋守将余玠于四川防御蒙军，为了巩固川西地区，他采用“守点不守线，连点而成线”的方针，修筑钓鱼城（今重庆合川东）、大获（今四川苍溪南）、青居（今四川南充南）、云顶（今四川金堂南）、神臂（今四川合江西北）、天生（今重庆万县西）等十余城，形成一个防御网，成功抵御蒙军攻击[参 72]。