隋炀帝多次发动战争劳民耗财，最终引起严重的统治危机，早在隋炀帝大业六年（610年）就因为抗拒府兵制的征召而爆发了四次民变，但是被隋军迅速镇压。611年豫州道、冀州道、兖州道等发生黄河大水成灾，漂没四十余郡，王薄率众于兖州道的长白山（山东章丘）发动民变，抵制隋炀帝东征高句丽，唱出著名的《莫向辽东浪死歌》。

当时民变范围大多集中在关东的豫州道、冀州道、兖州道、青州道和徐州道，不久被隋军镇压。613年刘元进据吴郡，自称天子，同年被灭。直到杨素的儿子杨玄感于黎阳（今河南浚县东北）举兵叛变，隋朝的达官子弟纷纷参加，带动全国各地纷纷叛乱。当时群雄割据，数量繁多，主要势力如下：河南地区有翟让、李密的瓦岗军。616年翟让在李密建议下，攻破要塞金堤关（河南荥阳东北），打下荥阳诸县。617年瓦岗军又攻破距东都洛阳的粮食存库兴洛仓。由于李密擅长作战，翟让让位给他。

李密自封魏公，建国魏，以洛口为根据地。随后占领回洛仓，直逼洛阳城下。然而内部纠纷使得李密杀翟让等人，最后投降越王侗。河北地区有窦建德的叛军，616年窦建德领导河北叛军转战河北各地，占据冀州大部分地区，两年后自封夏王，建国夏。江淮地区以杜伏威、辅公祏较强。613年两人在齐郡（治历城，今山东历城）举兵叛乱，随后南下到江淮南地区发展。617年占领高邮，切断南逃江都（今江苏扬州）的隋炀帝与北方的联系。杜伏威自称总管，以辅公祏为长史。

军事重镇并州地区有李渊，617年于太原留守的李渊发动晋阳起兵，不久攻克长安，617年12月18日，拥立代王侑为隋恭帝，遥尊隋炀帝为太上皇，此举更引致隋军失去后援之地，进退失据，首都失守更引致隋军人心惶惶，十居其九都投降唐朝或其他的地方起义集团，间接使隋朝走上全面灭亡之路。

南方最大势力为萧铣，617年萧铣与董景珍、雷世猛等举兵反隋。隔年称帝，建国梁，定都江陵。其势力东至九江，西至三峡，南至交趾，北达汉水。其他尚有616年李子通据海陵；林士弘据虔州。617年刘武周据马邑，自称太守。梁师都据朔方，自称梁帝。郭子和据榆林，自称永乐王。李轨据武威，自称河西大凉王。薛举据天水，自称秦帝。刘、梁、郭都依附突厥。

隋廷在此局势下迅速的土崩瓦解。早在616年，隋炀帝命越王侗留守东都，自己率众前往江都。他下令筑丹阳宫，准备迁都丹阳（今江苏南京）。跟随他的大臣卫士大多是关中人，不愿意长居江南，加上江都粮尽，人人北逃关中。618年宇文化及、司马德戡与裴虔通等人发动兵变，弑隋炀帝，拥立杨浩为帝。中原地区得知隋炀帝死讯后，于同年李渊逼迫隋恭帝杨侑禅位，称帝建立唐朝，为唐高祖，杨侑不久后被杀；洛阳守将元文都、王世充等拥立越王侗为帝，也称隋恭帝。

宇文化及于黎阳（今河南濬县北）被李密击溃，为了称帝又弑隋帝杨浩，建国许。宇文化及最后被唐将李神通与夏王窦建德联合剿灭。619年王世充废隋恭帝杨侗，隋朝亡，王世充自立为帝，建国郑，而杨侗不久后被杀。隋朝立国仅仅38年，是继秦朝及西晋后统一全国但又短命的中央皇朝。