徐世勣在求情无果之后，含泪向单雄信告别。为了朋友之义，前者割下自身的一块肉喂给后者。单雄信吃完之后，含笑赴死。最后终被斩在洛阳渚上。而他的子嗣则被徐世勣收养。

此外，单雄信因在临死前立下“三世不投唐”的誓言，民间便根据此种说法，编成许多传言。一说单雄信死后转世四次，分别为：辽东大帅盖苏文、西凉大帅苏宝童、反唐逆贼薛刚以及耳熟能详的安禄山。当然，这些都是民间传言，只做茶余饭后的谈资，不可信。