战前，割据洛阳的王世充乘唐军与刘武周割据势力在河东（今山西境）交战之机，扩展势力范围，夺取河南地区许多州县；自称夏王的河北起义军领袖窦建德，占据河北大部州县，与唐、郑成鼎立之势。唐灭刘武周后，唐高祖李渊为统一天下，于武德三年七月命李世民率军东征王世充，并遣使与窦建德言和，争取其中立。又派太子李建成率军驻蒲坂（今山西永济西南），以防突厥南犯。王世充获知唐军来攻，急从各州镇调选骁勇至洛阳，分守坚城；加强襄阳（今属湖北）、虎牢、怀州（治河内，今河南沁阳）等地守御，自率步骑3万准备迎战唐军；又暗中联系突厥，以求突厥出兵，牵制唐军。

唐军东至新安（今属河南）后，李世民遣陕州道行军总管罗士信率前军进围慈涧（今洛阳西），自率步骑5万继至。王世充被迫弃慈涧退守洛阳。鉴于洛阳城坚，重兵守备，短时难以攻下，李世民决定先扫清外围，然后攻城。于是令行军总管史万宝自宜阳（今宜阳西）进据龙门（今洛阳南），潞州行军总管刘德威自太行进围河内，右武卫将军王君廓至洛口（今巩县东北）断敌粮道，怀州总管黄君汉自河阴（今孟津东北）袭破回洛城（今偃师北），自率主力屯于北邙山（今洛阳北），连营进逼洛阳，待机攻城。至四年二月，经7个月外围作战，唐军先后攻占龙门、回洛城、洛口等要地，截断其虎牢至洛阳粮道，计退汴州（治浚仪，今河南开封）东道援兵，切断了洛阳的外向联系；同时在邙山、谷水（今洛河支流涧水）等战斗中，屡败王世充军，俘斩众多。显州（治今沁阳）、尉州（治今尉氏）、管州（治今郑州）等数十州相继降唐，唐军乘势包围洛阳。此间，突厥处罗可汗督军分道南犯并州（治今太原西南）、原州（治今宁夏固原）、延州（治今陕西延安城东）等地区，威胁唐军中原作战。李渊一面令加强北方各战略要地防御，遣使谋退突厥军，一面令利用渭水、黄河转运物资，保障前线供给。

唐军围攻洛阳，旬余不克，将卒疲惫，总管刘弘基等请求班师，李渊也密令撤兵。李世民力排众议，并派人说服李渊。唐军转入围困洛阳，城中粮尽。王世充继续遣使向窦建德求救。窦建德根据去年十一月中书舍人刘彬建议，恐唐灭郑后危及自己，决定实行联郑抗唐，待机灭郑，进尔夺取天下之策，于三月率军10余万西援洛阳，连克管州、荥阳（治今荥阳）等地，进屯成皋（今荥阳汜水镇）之东。此时突厥颉利可汗为策应王世充，再次率军南犯并州、石州（治今山西离石）等地。在此严重形势下，李世民采纳宋州刺史郭孝恪等人建议，决定中分麾下，以齐王李元吉、将军屈突通等继续围困洛阳，自率步骑骁勇3500人为前锋，抢占虎牢要地，阻遏窦军西进，相机破击，一举两克之（参见虎牢之战）。此时，李渊继续调整北方防务，阻击突厥颉利军，又征巴蜀军增援洛阳，以夺取中原作战胜利。窦军与唐军相持月余，交战失利，将士思归，加之后方粮运被抄袭，军心涣散。窦建德欲乘唐军草料将尽，牧马河北之机袭击虎牢。李世民遂将计就计，于五月初一牧马干余匹于河渚，以诱窦军。次日，窦军果然全部自板渚（今荥阳北黄河南岸）西出，布阵而进。李世民按兵不动，调回马群，待窦军士卒饥疲欲退时，命宇文士及率300骑试探其阵，发现其阵形不整，即率轻骑出击，大军继后，直冲敌阵；继乘窦建德召集群臣议事之机，带领精锐将卒直突窦军阵后，窦军大溃。李世民率军追击30里，斩3000余人，俘窦建德及其以下5万人。李世民回师洛阳，王世充被迫于初九率部2000余人出降。