成帝在位二十六年,寿终四十五岁。本来是体质强壮,状貌魁梧,俨然像个尊严天子,怎奈酒色过度,遂致身体羸弱。一天夜里,在赵合德的宫里,因喝春药过量彻夜欢娱,天亮后死在床上。据《赵飞燕别传》“帝日服一粒,颇能幸昭仪。一夕,在大庆殿,昭仪醉,连进十粒,是夜绛帐中拥昭仪,帝笑声吃吃不止。及中夜,帝昏昏,却不可将。抵明,帝起御衣,阴精流输不禁。有顷绝倒,寰衣视帝,余精出源,沾污被内,须臾帝崩。”赵合德大概是因为用床第功夫把皇帝搞死而名留青史的第一位后妃。
成帝死后,赵氏姊妹失势,积十余年的怨毒,开始爆发。初掌权王莽追究责任,赵合德虽未毒死成帝,然而从前在宫里淫乱的事,若一经逮问,断难隐讳,况且要连累家里人一同坐罪,于是自己喝下毒药毙命。
绥和二年,汉成帝死后无子,由定陶王刘欣即位,即汉哀帝,赵飞燕被尊为太后。哀帝在位六年崩驾,随即平帝刘即帝位,赵飞燕第二度失去了靠山,被贬为孝成皇后,后由于其妹合德害死了后宫的皇子,被杀,朝中群臣指责赵飞燕“失妇道,淫乱宫帏,不生育,断了皇室的后代”等等罪名,贬皇太后为孝成皇后,迁居到北宫,过了一个多月,被贬为庶人,被赐自杀。
成帝虽然不是隋炀帝那样的亡国之君,但总难逃史书的谴责。关于他后来一变而纵情于酒色和靡靡之音之说可能部分地是出于历史学家的偏见,是失宠的班婕妤家的成员撰书夸张之言。但不管是什么偏见,关于成帝缺乏意志力或他纵情于轻薄的放荡行为的说法却是有一定的根据的。