隋朝在农民起义战争的冲击下四分五裂，贵族、官吏、豪强地主纷纷拥兵割据。隋太原留守李渊乘机起兵反隋，夺取都城长安，于隋大业十四年(唐武德元年，公元 618年)称帝，建立唐朝。

　　当时，主要割据势力有：薛举、李轨、刘武周、梁师都、王世充、萧铣、林士弘、窦建德、杜伏威等。李渊为了统一全国，采取了先固关中，东攻中原，再平江南的方略。巩固关中。关中是全国政治、经济、军事中心，又有关河之险，可攻可守。李渊一面采取措施争取民心，一面派兵扩大领地，先后攻占南阳、安陆、荆襄等地。

　　李渊在关中站稳脚跟后，首先对威胁关中的薛举、李轨和刘武周采取武力征讨与分化瓦解相结合的方法，进行各个击破。 薛举据有陇西之地，拥兵 13万，自称秦帝，早与李渊争夺关中，未得逞。唐武德元年七月，薛举派兵大败唐军于浅水原，正欲攻占长安时，突然暴卒。其子薛仁杲(搞)继位。李渊乘机派使赴凉州(今甘肃武威)封李轨为凉王，以孤立薛仁果，同时派李世民率军进攻薛仁杲军。唐军采取坚壁疲敌战法，在浅水原一举歼敌 10万之众， 迫使薛仁杲投降，唐占陇西地。二年二月，李渊又派使联络吐谷浑击李轨，策反其大臣安修仁发兵攻城，擒李轨，唐又占河西五郡。这时，马邑 (今山西朔县) 刘武周发兵南下，连败唐军，二年九月攻占太原，继派大将宋金刚挥军南下，关中大震。

　　李渊在巩固关中后，于三年七月派李世民率军 10万攻王世充。同时派李建成、唐俭等保障其侧翼安全。李世民鉴于洛阳城坚，王世充兵强，在攻克慈涧(今洛阳西)后，即分兵阻断其南北救援道路，自率主力屯于北邙(芒，今洛阳北)包围洛阳。同时派兵攻占洛阳外围要地，河南各郡县纷纷降唐。王世充几次突围，均被唐军击回。王世充派人向窦建德求救。时，窦建德已在河北称夏王，他怕郑亡夏更加孤立，难以对抗唐军，遂亲率 10万大军救援洛阳， 结果被李世民阻于虎牢前进不得。四年十月，李世民诱窦军出战，结果窦建德中枪落马被俘，全军溃散。

　　李世民回师洛阳，迫王世充投降。窦建德部将刘黑阔再次起兵失败，后引突原兵返回河北，一度恢复了失地，但不久兵败被杀。这时，唐王朝控制了黄河流域，取得了河南、河北的统治权。平定江南。 盘踞江陵的梁帝萧铣， 拥兵40万，是南方最大的割据势力。但其心胸狭窄，多疑，滥杀功臣，深怕部将恃功不能控制，借口营农把兵员解散还乡，只留宿卫数千人，将士离心离德。四年九月，李渊乘机派李孝恭、李靖利用长江水涨，率军进攻江陵。唐军顺江而下，大败萧铣勇将文士弘于清江，直逼江陵。萧铣大惧，临时征兵又来不及，急命宿卫军出战，结果大败而回。无奈，只得出降。

　　接着，唐军又击败在庭州 (今江西赣州西南) 称楚帝的农民领袖林士弘，使唐占据了长江中游及岭南地。江淮农民起义军首领杜伏威、辅公拓先后降唐。后辅公拓又图再起，在丹阳(今南京)自称宋帝。李渊派军讨伐，在博望山、青林山大败宋军，直扑丹阳。辅公拓弃城东走武康(今浙江德清西)，后被俘杀。至此，唐朝除朔方梁师都依靠突厥势力未平外，基本统一全国。