薛万彻在入朝后就到太子手下做事，李世民所拥有的实力雄厚的集团对太子构成了严重威胁。太子为保住地位想要反对李世民。世民先发制人杀死了太子。薛万彻带领2000精兵赶来攻打玄武门，但久攻不下又转攻秦王府。但李世民很快就控制了局面，薛万彻只能躲进深山。李世民多次派人跟他说自己不会怪罪他，他才敢出来。后来他被任命为右领军将军。在世民登基两年后，他随军攻打了突厥。在士兵士气低下时，他安慰说：现在城中已经没有声音了，说明已经是败亡的时候了，这个时候千万不能放弃。最后因击败突厥有功，又被封为大都督。