三年后，吴军大败越军，勾践被迫投降吴国。此时，伍子胥认为应该联合齐国彻底的覆灭越国，而当时的夫差认为小小的越国经此一役之后会一蹶不振，不足为虑了。夫差的考虑是先灭掉强大的齐国，然后一举问鼎中原大地。君臣二人之间因为这件事情有了间隙，这时有心思活络的下属开始向吴王进谗言，污蔑伍子胥早已投靠齐国。

吴王虽然不相信下人的挑拨之言，但也在伍子胥的身旁安排了间谍。不久，伍子胥被夫差任命出使齐国，在出使齐国的过程中，伍子胥将自己唯一的儿子托付给齐国的好友鲍牧。这件事被当初向夫差进谗的小人知道了，他马上上报给吴王，最终吴王赐剑伍子胥，令其自刎。

伍子胥在拿到吴王赐予的宝剑之后，感到非常的愤恨，但为了吴国的安宁，他只能选择死亡。在死之前，愤恨的伍子胥对其下人说：“我死后，请将我的眼珠挖下，放在东城门之上，我要亲眼看着吴国灭亡”。听到此事的夫差，下令将伍子胥的尸体丢入钱塘江喂鱼，这一天刚好是农历五月初五，后世也有人认为端午节侍卫纪念伍子胥而立的。

伍子胥死后九年，卧薪尝胆的越王就带领士兵偷袭吴国国都，夫差在自杀之前曾用布蒙眼，表示自己死后无颜见伍子胥。