此后，在处置董卓的嫡系部队凉州兵一事上，也是导致王允最后身死的重要原因。王允在处理这件事情时，同样没有听取他人以安抚为主的意见，而是想要派其畏惧的关东兵去解散他们。凉州兵得到消息，恐慌不已，此时已经不是担忧前途的时候了，他们更担心自己会性命不保。凉州军中的将领李傕、郭汜等人决定拼死一搏，他们集结部队，以为董太师报仇之名，率军进犯长安。吕布兵败出逃，长安被攻陷，李傕、郭汜等人要求杀掉王允。无奈之下，王允走下城楼，被他们当场处决，终年五十六岁。