此次远征，唐朝大军吃了败仗，直接导致了贞观后期唐代国运急转直下，唐太宗的病体也因此愈发沉重。班师回朝后，尉迟恭心灰意冷，依旧回家养老，再不问朝政之事。据说尉迟恭晚年除喜爱丹青乐器之外，还迷信炼丹服药，研磨各种金属矿石，配置丹药，并在家中后院挖池塘，兴建楼台，大搞室内装潢，甚至闭门不见外客，长达十六年之久。

显庆三年十一月二十五日，尉迟恭在家中去世，享年七十四岁，一代名将的人生至此落幕。唐高宗李治为此废朝三日，令在京五品以上官员都去参加吊唁。同时册赠尉迟恭为司徒，并州都督，谥曰忠武，赐予珍宝、兵器、乐器若干，并郑重将这位开国元勋葬入昭陵，为唐太宗陪葬。