武德九年(626年)八月，唐太宗刚刚登基，颉利可汗乘唐朝皇帝更替之机，遂率十几万精锐骑兵再次进犯泾州(今甘肃泾川西北)，并长驱直入，兵临渭水便桥之北，不断派精骑挑战，还派其心腹执失思力入朝，以观察虚实。当时征调的诸州军马尚未赶到，长安市民能拿兵器打仗者也不过几万人，形势十分危急。在此种情况下，唐太宗曾冒险亲临渭水桥，与颉利可汗结盟，突厥才退兵。事后，唐太宗擢任李靖为刑部尚书，不久转任兵部尚书。因他作战屡建功绩，赐实封四百户。

　　击灭东突厥

　　此后不久，东突厥国内发生了变乱，所属薛延陀、回纥、拔野古诸部相继叛离，又恰遇暴风雪，羊马死亡甚多，因而发生了饥荒，族人纷纷离散。

　　贞观三年(629年)八月，唐太宗接受了代州都督张公瑾的建议，决定出击东突厥，命兵部尚书李靖为定襄道行军总管，以张公瑾为副，发起了强大的军事攻势。又任命并州都督李勣、华州刺史柴绍、灵州大都督薛万彻等为各道总管，统率十几万军队，分道出击突厥。

　　贞观四年(630年)正月，朔风凛冽，李靖率领三千精锐骑兵，冒着严寒，从马邑(今山西朔县)出发，向恶阳岭挺进。颉利可汗万万没有想到唐军会突如其来，兵将相顾，无不大惊失色。他们判定：如果唐兵不倾国而来，李靖决不会孤军深入，于是“一日数惊”。李靖探知这一消息，密令间谍离间其心腹，其亲信康苏密前来投降。李靖迅即进击定襄，在夜幕掩护下，一举攻入城内，俘获了隋齐王杨暕之子杨政道及原炀帝萧皇后，颉利可汗仓皇逃往碛口(今内蒙二连浩特西南)。李靖因军功进封代国公，赐物六百段及名马、宝器等。太宗高兴地对大臣说：“汉朝李陵带领五千步卒进攻匈奴，最后落得归降匈奴的下场，尚且得以留名青史。李靖以三千骑兵深入敌境，攻克定襄，威振北狄，这是古今所没有的奇勋，足以雪往年在渭水与突厥结盟之耻。”

　　在李靖胜利进军的同时，李勣也率军从云中(今山西大同)出发，与突厥军在白道(今内蒙呼和浩特北)遭遇。唐军奋力冲杀，把突厥军打得溃不成军。颉利可汗一败再败，损失惨重，遂退守铁山，收集残兵败将，只剩下几万人马了。

　　颉利可汗处于山穷水尽的境地，他派执失思力入朝请罪，请求举国归附唐朝，并表示愿意入朝。其实，他内心尚犹豫未决，意欲赢得时间，以苟延残喘，俟草青马肥之时，逃到大漠以北，以卷土重来。

　　同年二月，唐太宗派遣鸿胪卿唐俭、将军安修仁去抚慰颉利可汗，李靖揣摩到唐太宗这样做的真实意图，对将军张公谨说：“朝廷的使者到了颉利可汗那里，突厥必定会放松戒备。我们就乘此良机，选拔精骑一万，携带二十天的军粮，带兵从白道袭击突厥。”张公谨说：“陛下已经下诏准许颉利可汗归降，朝廷派去的使者也在那里，恐怕不宜去讨伐进击。”李靖说：“这正是用兵的良机，时机不可错过，这就是韩信之所以消灭齐国的道理。像唐俭等使者即使因此遭到不测，又有什么可惜的呢。”

　　李靖率军进至阴山，遇到突厥斥候千余帐，一战而全部俘获，命与唐军同行。这时，颉利可汗见到唐使臣，放松了戒备。李靖前锋苏定方率领的两百余骑又乘着大雾，悄然疾行，直到距牙帐七里远的地方才被发觉。如同惊弓之鸟的颉利可汗慌忙骑马逃走，突厥军也四散而逃。李靖大军随之赶到，杀敌一万余人，俘虏十几万，缴获牛羊数十万只(头)，并杀死隋义成公主。颉利可汗率万余人想北过大漠，在碛口受李勣所阻，不能北逃，其大酋长皆率众投降。不久，颉利可汗被大同道行军总管任城王李道宗擒获，并送到京师。东突厥从此宣告灭亡了。

　　自隋朝以来，突厥是西北的强国。李靖等灭了东突厥，不仅解除了唐朝西北边境的祸患，而且也洗刷了唐高祖与太宗向突厥屈尊的耻辱。因此，唐太宗颇有感慨地说：“我听说君主忧愁臣觉得耻辱，君主受辱臣甘愿赴死。从前大唐草创之时，太上皇因为百姓的缘故，向突厥称臣，我为此常常痛心疾首，立志要剪灭突厥，为此坐不安席，食不甘味。现在只暂时调动一部分军队，就无往不胜，使单于归顺，终于洗雪当年称臣的耻辱!”太上皇李渊也欣喜万分，他把太宗、贵臣十几人，还有诸王、王妃、公主等召至凌烟阁，设宴庆祝。他一时兴起，还亲自弹起了琵琶，太宗起舞，大臣们也接连起身举杯祝贺，一直延续到深夜。