如果说第一次被贬，刘伯温由于功名之心未灭还满怀惆怅，那么他后来的被放归，则更像是一种自我放逐。这不仅因为明初同僚的倾轧十分激烈，不同派系之间的权力斗争已到白热化的程度，更因为他对“圣意难测”有了更深的理解，对在雄主手下讨生活充满了忧惧，深知只有韬光养晦才是自我保全之道。

　　然而刘伯温到底是读书人，尽管他感觉面前这个曾经与自己共过患难的人越来越难以捉摸，但在反复放归、召还的过程中还是要战战兢兢地尽儒者的本分。他劝朱元璋，“霜雪之后，必有阳春，今国威已立，宜少济以宽大”，要朱元璋保存臣子的体面，不应动辄羞辱，都是非常有针对性的;他又提醒朱元璋，对遁逃北漠的元朝大将王保保不能轻敌妄进，结果也被他不幸言中了—名将徐达在追击王保保的一战中，几乎全军覆没。

　　忧谗畏讥的刘伯温准备在家乡终老，但善于占卜的他却不知道，自己的命运并不在自己手中。很快，他就出事了。又使天灾进一步演变成人祸，中国大地，一时饥民、流民、盗匪四起。

　　死因成谜

　　隐居的刘伯温，竭力洗尽铅华，表现得像一个不识字的老农，也不和地方官吏来往。他知道，有一双天眼在盯着他的一举一动。《明史》上这样绘声绘色地描述他的谨慎：“还隐山中，惟饮酒弈棋，口不言功。邑令求见不得，微服为野人谒基。基方濯足，令从子引入茅舍，炊黍饭令。令告曰：‘某青田知县也。’基惊起，称民谢去，终不复见。”家乡的父母官因为始终见不到刘伯温，所以换上便服求见，正在洗脚的刘伯温对上门的客人当然不好拒绝，升火做饭以待客，但当县令以实相告时，刘伯温马上变色，自称小民，便立即退避。

　　如此小心的刘伯温还是出事了。

　　在浙江福建交界处有一个叫谈洋的地方，此地偏僻而险要，所以成为奸人躲藏之所，刘伯温便派儿子刘涟入朝反映这一情况，建议在此设立一个机构负责巡查，但刘涟绕过了中书省(当时明王朝政府的中枢机构)，直接向皇帝奏陈，引起了执政大臣的嫉恨，他们诬陷刘伯温看中了谈洋这块地方，准备作身后之墓地，只是由于谈洋的百姓不同意，所以才希望朝廷在那儿设立机构，以此驱逐百姓。中书省准备借此兴起大狱，这时的刘伯温虽然患病，但仍然不得不扶疾入朝，向皇帝和朝廷说个明白。

　　刘伯温面对朱元璋，“惟引疚自责而已”，意思是什么辩解的话都不说，只承认“我错了我错了”，朱元璋没有再穷追下去。但不久，在一件小事上，朱元璋还是给了刘伯温一个下马威。朝廷祭奠孔子，仪式结束后，祭祀用的肉分给重臣算是一种荣誉。刘伯温没有参加祭奠仪式，却接受了肉。朱元璋说：刘伯温是学圣人之道的嘛，怎能不参加祭奠却享受祭品?学礼学到哪里去了?下令停发其一个月俸禄。是否接受祭品是小事，停发一个月俸禄也是小事，关键是皇帝行动中透露的信息是意味深长的：他就是想让刘伯温没面子。由此可见最后一次入朝的刘伯温，其处境之尴尬。

　　处境和心情都恶劣，刘伯温的病情加重了，洪武七年，朱元璋知其病重，赐归田里，这一年的四月十六日，刘伯温卒于家中。

　　刘伯温的死因，历来有三种不同的说法：一说被丞相胡惟庸毒死;二说朱元璋是毒死刘伯温的主谋;三说系病死。其实从情理上思考，刘伯温当时已经患病，而且又不是当权派，朱元璋和胡惟庸又何必要多此一举?胡惟庸毒死了刘伯温的传闻之所以流行，完全是后来朱元璋为除掉胡惟庸，有意给其罗织了一条新罪名。但他没有想到，后世同情刘伯温遭遇的人，不以揪出胡惟庸为满足，又怀疑到他自己头上，这真是一种讽刺。