史万岁十五岁的时候就跟着父亲出征了，在战场上他非常善于观察战局的形势，初次出征就建立战功，周武帝年检，史万岁被提为侍伯上士。

后来史万岁在邺城之战中身先士卒，浴血奋战，鼓舞三军士气，重整三军气势，扭转了战局，得胜回朝后史万岁被封为上大将军。之后，史万岁便是战功无数，但是后来史万岁受到大将军尔朱绩的牵连，被发配到敦煌。公元583年，隋朝和突厥大战，史万岁代表隋朝和突厥比武，史万岁成功砍下突厥勇士的头颅，使得突厥开始惧怕隋朝，于是朝廷将史万岁重新召回，封为上仪同兼任车骑将军。公元589年，史万岁在陈之战中立下战功被加上府。公元599年，史万岁在平定江南之战中表现突出，大破突厥，凯旋而归，朝廷对史万岁自然是非常欣赏，大大奖赏了史万岁。

史万岁由于功劳太大，受到的封赏也太多，被小人嫉妒，公元600年，当时正巧是太子杨勇刚被废掉，隋文帝疑心很重，在杨素的挑拨下，在朝堂之上就把史万岁给杀了，史万岁享年仅51岁。