来护儿的来历也是非常的有名气,他是东汉时期的中郎将来歙的第十八世孙。在来护儿刚出生不久他的父母就去世了,他是由他的伯母吴氏抚养成人的。在来护儿的伯父在侯景之乱的时候被同乡的陶武子杀害后,他的伯母就常常在来护儿的耳边提起这件事情。后来,来护儿就准备替他的伯父报仇。于是,他趁陶家在办婚事的时候,就直接跑到了陶家杀死了陶武子。在陶家的所有宾客都被他吓呆了,都不敢动弹。在来护儿将陶武子的首级放在伯父的墓前祭拜完毕后,他就逃到外面躲了起来。直到北周的大将韦孝宽平定淮南之后,他才敢回到故乡。
隋开皇元年的时候,战乱不断,来护儿便有投军,建功立业的想法。在贺若弼出镇广陵的时候,他便投奔隋军,不久就升做了大都督。高智慧在江南起兵反抗隋朝的时候,他跟着杨素去平乱,来护儿以奇兵突袭,杨素从正面攻击,大破叛军,所以在平定高智慧的余党后,来护儿因为有功成了大将军,还升任泉州刺史,被皇帝封为襄阳县公。后来,来护儿因同蒲山公李宽讨伐叛军汪文进,被封为永宁郡公。