历史上，有关伊尹死亡的记载极少，即使是他的死亡时间都不一定，有说100岁，也有八十几岁的，至于他最后葬在哪里就更加没有确切的史料文献。只知道他的墓地应该在商汤陵寝旁边，具体位置不详。但因为商朝后来入主中原，当时的都城就是位于现在的河南境内，所以伊尹被葬在河南的推理就非常合理。

在河南商丘的伊尹墓，高3米，周长46米，石碑上题字元圣墓碑。墓地的前面就是占地4000平米的伊尹祠。这里有三处祭祀的大殿，由东向西分别是圣母冼姑殿、伊尹大殿和伊尹夫人殿。洗姑据说就是伊尹的养母，那个采桑养蚕的奴隶，而伊尹的夫人传说是他的贤内助。这三个大殿都是元朝时期建造，后在明朝重修过。此外，还有一座上下两层的花戏楼，文革时遭破坏，现已修复。

伊尹祠周围有唐朝时候种植的古柏，将近200棵。关于这些柏树，当地还有一段传说。唐时，程咬金带兵到这里，听说是自己结拜大哥魏征的墓地，于是连忙种下了这些柏树。不过因为急急忙忙又是在夜里，程咬金种树的其实是伊尹墓，魏征的墓地还要在东边400米左右。