来护儿的来历也是非常的有名气，他是东汉时期的中郎将来歙的第十八世孙。在来护儿刚出生不久他的父母就去世了，他是由他的伯母吴氏抚养成人的。在来护儿的伯父在侯景之乱的时候被同乡的陶武子杀害后，他的伯母就常常在来护儿的耳边提起这件事情。后来，来护儿就准备替他的伯父报仇。于是，他趁陶家在办婚事的时候，就直接跑到了陶家杀死了陶武子。在陶家的所有宾客都被他吓呆了，都不敢动弹。在来护儿将陶武子的首级放在伯父的墓前祭拜完毕后，他就逃到外面躲了起来。直到北周的大将韦孝宽平定淮南之后，他才敢回到故乡。

隋开皇元年的时候，战乱不断，来护儿便有投军，建功立业的想法。在贺若弼出镇广陵的时候，他便投奔隋军，不久就升做了大都督。高智慧在江南起兵反抗隋朝的时候，他跟着杨素去平乱，来护儿以奇兵突袭，杨素从正面攻击，大破叛军，所以在平定高智慧的余党后，来护儿因为有功成了大将军，还升任泉州刺史，被皇帝封为襄阳县公。后来，来护儿因同蒲山公李宽讨伐叛军汪文进，被封为永宁郡公。