当天夜里，唐太宗梦见了魏征，神色和平时一样。可是第二天早晨，魏征就与世长辞了，终年六十四岁。唐太宗又亲自到魏征家里吊唁，哭得非常悲伤。他还为了表示哀恸，停止上朝五天，让太子在西华堂举哀，并命令文武百官都去参加魏征的丧仪。还赠魏征为司空、相州都督，赐给羽葆、鼓吹、班剑四十人的仪仗队，陪葬在昭陵。
　　临发丧时，魏征的妻子裴氏上书唐太宗：“魏征生前素来节俭，现在按一品官的礼葬他，仪仗这么隆重，恐怕不合他的心意。”于是改用白木制的车子和白布缝的车帷来送葬。魏征出殡时，唐太宗让晋王去主祭，他自己还亲自书写了碑文，登上御苑中的西楼，望着魏征的灵柩西去，哭得极为哀痛。
　　魏征去逝后，从他家里找到一份写了一半的奏稿，这也可以说得魏征的一份遗嘱。里边认得清的话有：“天下的人有善有恶。任用善人，国家就安全；任用恶人，国家就要衰亡。对自己喜欢的人，要了解他的缺点；对自己讨厌的人，也要了解他的优点。要毫不迟疑地去掉恶人，也要毫不猜忌地任用善人，这样国家就可以兴盛了。”唐太宗看了，很受感动。他对大臣们说：“我在这方面做得不够，你们要把魏征的这些话写在记事板上，发现我在这方面的问题，随时向我进谏。”
　　唐太宗把魏征看做是照自己过失的一面镜子，魏征的死使他失去了一面镜子。他说：“用铜作镜子，可以端正衣冠；用历史作镜子，可以知道兴衰；用人做镜子，可以了解得失，”他把魏征看做是了解自己得失的最好的一面镜子，所以他认为魏征的死对他是一个很大的损失。唐太宗对魏征的这一评价，应当说是相当正确和公正的了。
　　魏征死后，唐太宗给了他那么高的待遇，还在凌烟阁让入画了魏征等二十四个功臣的肖像，他亲自作像赞，不时去看像赋诗，悼痛不已。唐太宗对魏征的这种隆誉，遭到了一些人的妒忌，他们就制造各种流言飞语，贬低魏征，挑拨唐太宗和魏征的关系。杜正伦和侯君集，魏征曾向唐太宗推荐，认为他们有宰相之才，因而杜正伦被提拔为兵部员外郎，后又改任太子左庶子，侯君集也官至检校吏部尚书。魏征死后，他们俩人都因牵连到太子承乾事件，一个被流放，一个下狱被杀。这时有人借机攻击，说魏征推荐他们二人，并不是因为他们有才，而是因为魏征和他们结为同党，互相吹捧，谋取私利。唐太宗听了，很不高兴。
　　又有人攻击魏征说，他谏诤唐太宗的奏章，都自己偷偷地抄录下来，交给了史官起居郎褚遂良，为了自己录之国史，名扬千载，而却宣扬了君主的错误。这与同时的重臣戴胄奏完之后，即毁掉底本，进行保密的作法不同，是为了显示自己的正确。唐太宗听了，更加不高兴。唐太宗不但令人毁掉了自己给魏征写的碑文，而且还停止了将衡山公主嫁给魏征儿子叔玉为妻的允诺，表示了对魏征的不满。魏征的家族也自此开始衰败下来。
　　贞观十九年(645年)唐太宗率军亲征高丽。高丽和袜褐联军猛攻辽东安市城(今辽宁盖平县东北)东南的驻跸山，由于李勋等大将率军力战，才没有被攻破。后来，天气冷了，粮食也供应不上，唐太宗被迫率军撤回。唐太宗在班师回来的路上，很后悔这一次军事行动，这时他想起了魏征，就对大家说：“魏征如果还活着，他是不会同意我的这次行动的。”他派人把魏征的家属叫来，问了他家的情况，慰问赏赐了魏征的妻子，并以少宰的礼祭了魏征的坟墓，重新立起推倒的墓碑，恢复了他的声誉和待遇。不过那位答应嫁给魏征儿子的衡山公主，这时已经另嫁他人，无法再改正过来，把她嫁给魏征家了。魏征死后的这一反复，说明在封建社会的君臣关系，即使是象唐太宗与魏征这样合作共事了十七年，彼此已经够了解的了，但随着政治风云的变幻，死后仍然出现了波折。这也反映了封建社会政治斗争的曲折和多变。
　　魏征是以刚直不阿、勇于犯颜进谏而著名的大臣。他与唐太宗君臣之间虽然也产生过误会和矛盾，但总的说来是合作得比较好的典型。魏征作为封建社会的名臣，一直受到封建政治家的称赞，把他的思想和行为，作为封建政治家的某种典型和规范，历代都称赞不已。魏征确实不愧为一个伟大的封建政治家。