他在地方上每到一地,兴修水利,培养人才,保土安民,政绩斐然,真正做到了为官一任,造福一方。而在生活上,他治家严谨,十分俭朴,平时居家不吃两样荤菜,妻子儿女的衣食只求温饱,一直到晚年,都没建造一座像样的宅第,然而他喜欢将自己的钱财送给别人,待人亲热敦厚,乐于义助他人,当时的贤士,很多是在他的指导和荐拔下成长起来的。即使是乡野和街巷的平民百姓,也都能叫出他的名字。在他离任时,百姓常常拦住传旨使臣的路,要求朝廷让范仲淹继续留任。
皇祐三年(1051年),范仲淹又移任青州。这里的冬寒,加重了他的疾病。第二年(1052年)调往颍州,他坚持扶疾上任。但只赶到徐州,便在五月二十日溘然长逝。享年六十四岁。这时,范仲淹积蓄已尽。一家人贫病交困,仅借官屋暂栖,略避风雨。
范仲淹死讯传开,朝野上下一致哀痛。包括西夏甘、凉等地的各少数民族人民,都成百成千地聚众举哀,连日斋戒。凡是他从政过的地方,老百姓纷纷为他建祠画像,数百族人来到祠堂,像死去父亲一样痛器哀悼,根据他的遗愿,遗体没有运回原籍苏州,而是葬在他母亲长眠的那块地旁——洛阳南郊万安山下。
范仲淹的行动和思想,赢得身前身几代人的敬仰。历代仁人志士也纷纷以范仲淹这位北宋名臣为楷模,学习和效法。