李隆基在长安陷落前，仓惶出逃。到马嵬坡（陕西兴平西），随行的将士发生哗变，杀杨国忠，又迫李隆基缢死杨贵妃。唐玄宗李隆基最后逃到成都。太子李亨逃到朔方，在灵武即帝位，即唐肃宗。

肃宗从河西、安西征调了万余名精兵，又调回了河北前线的朔方节度使郭子仪和河北节度使李光弼所部五万军队，灵武一时军威强盛。接着又任命了朝官与将帅，建立了一套新的军事系统，对抗击叛军也作了全面部署。应肃宗之请，回纥也派来精锐骑兵助战。这时又适遇叛军内讧，安禄山为其子安庆绪所杀，部下不服，战斗力也随之削弱，形势急转直下。

至德二载（757年），随着安禄山被杀，李隆基由成都返回长安，居兴庆宫（南内），称太上皇。

居住在兴庆宫的玄宗不再过问政事，侍候他的仍是龙武大将军陈玄礼与内侍监高力士，另有玄宗的亲妹玉真公主与旧时宫女、梨园弟子为他娱乐。玄宗对杨贵妃之死一直是耿耿于怀。他从成都回来后，即派人去祭悼她；后来又想改葬，遭宦官李辅国反对而停止，却密令宦官将贵妃遗体移葬他所。宦官献上了贵妃的香囊，玄宗把它珍藏在衣袖里。又让画工画了贵妃的肖像，张挂于别殿，“朝夕视之而欷歔焉”。

上元元年（760年），宦官李辅国为了立功以固其恩宠，上奏肃宗说：“上皇居兴庆宫，日与外人交通，陈玄礼高力士谋不利于陛下。今六军将士尽灵武勋臣，皆反仄不安，臣晓喻不能解，不敢不以闻。”这年七月，李辅国乘肃宗患病之机，矫诏强行把玄宗迁居西内。在途经夹城时，李辅国又率射生将五百骑，剑拔弩张，气势汹汹地拦住去路。玄宗胆战心惊，几乎坠下马来，幸亏高力士挺身而出，玄宗才安全地迁居甘露殿。事后，肃宗没责怪李辅国，反倒安慰他几句。不几天，玄宗的几个亲信也遭到清洗：高力士以“潜通逆党”的罪名，被流放于巫州；陈玄礼被勒令致仕；玉真公主也出居玉真观。剩下玄宗只身一人，茕茕独处，形影相吊，好不凄惨。之后，肃宗另选后宫百余人，到西内以备洒扫。

晚年李隆基忧郁寡欢，宝应元年农历四月五日（762年5月3日），李隆基驾崩，终年78岁。葬于唐泰陵。同年久病缠身的李亨亦驾崩。

《新唐书》：元年建巳月，（玄宗）崩于神龙殿，年七十八。

《旧唐书》：上元二年四月甲寅，崩于神龙殿，时年七十八。群臣上谥曰至道大圣大明孝皇帝，庙号玄宗。初，上皇亲拜五陵，至桥陵，见金粟山岗有龙盘凤翥之势，复近先茔，谓侍臣曰：“吾千秋后宜葬此地，得奉先陵，不忘孝敬矣。”至是，追奉先旨以创寝园，以广德元年三月辛酉葬于泰陵。