司马迁的史记中认为秦始皇并不是秦庄襄王的亲生儿子,而是吕不韦的。后来的史家也都沿用这个说法(例如司马光《资治通鉴》)。到明朝时,有几位学者对此表示怀疑,认为这或者是吕不韦编造出来保护自己的,或者是秦始皇的仇家捏造出来泄愤的。现代的史学家有的认为这个说法不可信,有的认为司马迁的记述不可能空穴来风,于是秦始皇生父是谁,就成了一个谜。
据《史记·吕不韦列传》记载,秦始皇的母亲赵姬原是吕不韦的姬妾,吕不韦出于政治目的将已怀孕的赵姬献给异人(即秦庄襄王),后来赵姬至大期生子名政。
《史记·秦始皇本纪》记载,“秦始皇帝者,秦庄襄王子也。庄襄王为秦质子于赵,见吕不韦姬,悦而取之,生始皇。”作为一个并不受宠爱的质子的儿子,赵政少年时期是在赵国都城邯郸度过的,此时异人经吕不韦从中斡旋已然回到秦国,并认华阳夫人为母,经过多次政治斗争终于获得了华阳信任,吕不韦又花费大量精力与金钱将赵姬母子接回秦国,从此赵政开始了他在秦王宫里的政治生涯。