1894年8月16日（公历9月15日），驻朝陆军在平壤与日军激战数昼夜后溃败，总兵左宝贵战死，统帅叶志超等逃回国内。1894年8月18日（公历9月17日），北洋舰队与日本海军主力在黄海大东沟附近海域遭遇，丁汝昌执行李鸿章“保船制敌”的方针，但北洋海军在弹药不足，在此情况下与日本舰队进行了一场长达5个小时的海上会战，结果极大地影响了战斗力的发挥，也加重了损失的程度”。中国军舰沉没4艘，日本舰队亦遭重创。此后，清军在鸭绿江、九连城等战场与日军激烈交战，但终未能挡住日军的攻势。最终，旅顺、威海等重要海军基地失守，北洋水师覆灭。究其原因，北洋舰队的覆灭与朝廷旧官员是分不开的，众大臣将北洋舰队视为李鸿章的私家军，挑拨其与慈禧的关系，提醒慈禧心加戒备。同时掌管户部的翁同龢念与李鸿章私人恩怨时常克扣军费，导致北洋舰队多数舰艇老化，在为慈禧准备的万寿庆典的颐和园中，清朝库银首要用途就是修建颐和园，在财政入不敷出的情况下，想要维护北洋舰队的先进战备是不可能的。另外，丁汝昌战前提出在主要舰船上配置速射炮以抵消日舰速射炮的优势，需银六十万两。翁同龢鉴于与李鸿章有些私人恩怨未批。北洋舰队在黄海海战中战败，李鸿章才上奏前筹海军巨款分储各处情况：“汇丰银行存银一百零七万两千九百两；德华银行存银四十四万两；怡和洋行存银五十五万九千六百两；开平矿务局领存五十二万七千五百两；总计二百六十万两。”
光绪二十一年二月十八日，李鸿章被慈禧太后任命为全权大臣，赶赴日本议和。尽管行前清廷已授予李鸿章割地赔款的全权，但他仍期望“争得一分有一分之益”，与日方代表反复辩论。在第三次谈判后，李鸿章于会住处的路上遇刺，世界舆论哗然，日方因此在和谈条件上稍有收敛。三月十六日，李鸿章伤稍愈，双方第四次谈判，日方对中国赔款2亿5千万两白银(原本是3亿两)，割让辽东半岛及台湾澎湖等要求表示不再让步，日方和谈代表伊藤博文谓，李鸿章面前“但有允与不允两句话而已”。事后日方继以增兵再战进行恫吓。李鸿章等连发电报请示，光绪皇帝同意签约，命令“即遵前旨与之定约”。
据说他在签字前的最后关头，曾经老泪纵横地对使团的美国顾问科士达说：“万一谈判不成，只有迁都陕西，和日本长期作战，日本必不能征服中国，中国可以抵抗到无尽期。日本最后必败求和。”
后人因此对李鸿章高价赞誉，认为他“一把骨头一把泪为清政府省下1亿白银，为清政府的苟延残喘做出了极大贡献”，而实际上倘若李鸿章没有过于抓北洋海军权力与“保船避战”政策，清政府对于北洋海军的经费不至于减少如斯，甲午海战的结局亦有可能改变，而不是窝囊的被全歼于渤海湾海港内。
也正是因为马关签约的强烈刺激，李鸿章发誓“终身不履日地”。两年后他出使欧美各国回来，途经日本横滨，再也不愿登岸，当时需要换乘轮船，要用小船摆渡，他一看是日本船，就怎么也不肯上，最后没有办法，只好在两艘轮船之间架了一块木板，75岁高龄老人，在呼呼悠悠地海面上，毅然决然地蹒跚着步子，慢慢腾腾地挪过去。
1895年3月24日，李鸿章在日本商讨马关条约签定问题时，被刺客小山丰太郎开枪击中左面，血染官服，当场昏倒。一时间，现场大乱，行人四处逃窜，行刺者趁乱躲入人群溜之大吉，躲入路旁的一个店铺里。随行的医生马上替李鸿章进行急救，幸子弹未击中要害，李鸿章复原迅速。行刺事件发生后，日本警方很快抓到了小山丰太郎，据此人供认，他本人是日本右翼团体“神刀馆”的成员。他不希望中日停战，更不愿意看到中日议和，一心希望将战争进行下去，所以决定借刺杀李鸿章，挑起中日之间的进一步矛盾，将战争进行到底。
马关条约签订后，在全国引起强烈反响。康有为等发动公车上书，掀起维新变法的高潮。李鸿章也视马关签约为奇耻大辱，发誓终生不再履日地，并倾向变法。马关条约导致国内民愤四起，而又不能指责清政府为慈禧倾尽国库一心筹备万寿庆典，故将矛头指向了李鸿章，李鸿章就在这样的情形下做了清朝丧权辱国的替罪羊。甲午战后，李鸿章被解除了位居25年之久的直隶总督兼北洋大臣职务，投置闲散。
1896年（光绪二十二年）春，俄皇尼古拉二世举行加冕典礼，李鸿章奉命作为头等专使前往祝贺。在此之前，俄国会同法、德发起三国还辽成功，清廷上下视俄国为救星，包括李鸿章、翁同龢、张之洞在内的元老重臣均倾向联俄。清政府的外交政策也由“以夷制夷”转向“结强援”。同年四月二十二日，李鸿章在莫斯科签订了《中俄密约》，中俄结盟共同对付日本，并同意俄国修筑西伯利亚铁路经过中国的黑龙江、吉林直达海参崴，口岸对俄国兵船开放，导致整个东北沦为沙俄势力范围。
李鸿章出任粤督期间，北方爆发了义和团运动，英、法等国组成八国联军进行干涉，慈禧携光绪逃至西安，北方局势一片混乱。而东南地区的实力派疆臣如两江总督刘坤一、湖广总督张之洞等，则在盛宣怀联络下，倡导东南互保，即不遵从朝廷的宣战诏书，以保东南半壁不陷入混乱中。李鸿章更是以将朝廷诏书蔑称为乱命的方式促成此事。
在此期间，经由革命党人陈少白和李鸿章的幕僚刘学询牵线，李鸿章一度有意与自日本前来策划“两广独立”的孙中山晤面，但由于双方互存戒心而作罢。
1900年6月，八国联军入侵，清朝国宣布与各国进入战争状态。朝廷的电报一封接一封地到达南方，要求各省封疆大臣率兵北上共同灭洋。朝廷下诏，将李鸿章由两广总督重新调任为清朝国封疆大臣中的最高职位：直隶总督兼北洋大臣。慈禧的一纸任命是：“着李鸿章为全权大臣。”
清廷再度授李鸿章为直隶总督兼北洋大臣，并连续电催其北上。李鸿章乘轮船至沪后，以身体不适为由迁延观望，部下及亲属也都劝其以马关为前车之鉴，不要再北上，以免又成为替罪羊。直至7月30日，北方局面实在无法收拾，慈禧在逃亡途中电催李鸿章北上。1900年8月15日，清朝国都城沦陷，政府和朝廷逃亡。9月29日，李鸿章到达天津。10月11日，李鸿章到达北京。由于心理压力巨大，李鸿章病倒了，他在拜会英、德公使后回贤良寺的路上受了风寒，一病不起，故作拖延以“漫天要价”的联军沉不住气了，他们唯恐朝廷再也没人来收拾这个烂摊子，一个耗尽“中国财力兵力”的“议和大纲”终于出笼。1901年1月15日，李鸿章和庆亲王奕劻在“议和大纲”上签字。国人声讨又起：“卖国者秦桧，误国者李鸿章！”
李鸿章开始咳血了，他知道自己的时日不多，李鸿章想尽快地结束谈判。可“议和大纲”签字后，联军并没有撤军的迹象。各国的态度是：必须把赔款的数额定下来。此时的李鸿章已经没有力气与洋人争来争去了，他吐血已经吐到了“濒危”的程度，在生命的最后时间里，李鸿章已没有精力面对面与洋人再论长短了。李鸿章躺在病榻之上，指挥着下级官员把损失降到最低点———从一开始提出的10亿两白银降到4亿5000万两，分39年还清，年息4厘；4亿5000万两，是对4亿5000万中国人所定的数字，“人均一两，以示侮辱”。李鸿章接受了这个侮辱。
1901年（光绪27年）签订《辛丑条约》。李鸿章在签字回来后大口大口地吐血——“紫黑色，有大块”，“痰咳不支，饮食不进”，被诊断为胃血管破裂。而后病逝北京，诏赠太傅，晋封一等侯爵、谥文忠，赐白银五千两治丧，在其原籍和立功省建祠10处，京师祠由地方官员定期祭祀。清代汉族官员京师建祠仅此一人。他被慈禧太后称赞为“再造玄黄”之人，享年79岁。
李鸿章后人
儿子
李经方：驻美参赞，驻日公使，出使英国大臣。娶骆氏姐妹，系四川总督骆秉璋之女。
李经述：诗人，三品参赞官。
李经迈：出使奥国钦差大臣。其子李国杰娶状元张之万即两江总督张之洞兄长之女张氏。
李经溥
女儿：李经璹，小名李菊耦，嫁张佩纶系同治进士。曾外孙女是中国现代作家，张爱玲，本名张煐。
李鸿章故居
李鸿章故居是晚清军政大臣李鸿章的家宅，位于安徽省合肥市繁华的步行街中段，是典型的晚清江淮地区民居建筑。布局整齐，结构严谨，雕梁画栋，占地面积2000平方米，是合肥市仅存的规模最大的名人故居。1998年，安徽省人民政府公布为省重点文物保护单位。
李鸿章故居前厅布置了“李鸿章生平展”，用大量的珍贵图片与实物展示了李鸿章风云变幻的一生，即“少年科举，壮年戎马，中年封疆，晚年洋务”。中厅和小姐楼则采用复原陈列的形式展现了李家接待客人和家眷们的日常起居生活情况，充分表现了江淮地区的建筑风格。东面的“淮系集团与中国近代化的展览”，则是在丰富李鸿章生平展的基础上开放的，充分揭示了这个晚清历史上最具影响力和实力的集团——淮系集团在李鸿章的领导下，对近代军事、经济、文化以及国防方面所做出的突出贡献。
李鸿章大杂烩
李鸿章杂烩也称为李鸿章大杂烩，是一道汉族传统名菜，属安徽菜，始创于清光绪二十二年（1896年），相传与晚清名臣李鸿章有关。为合肥名菜的保留品种。
清光绪二十二年（1896年），李鸿章访问美国时，在使馆宴请美国宾客。因中国菜可口，连吃几个小时，宾客仍未下席。主菜已用完，只得将做菜剩下的边角料，混在一起煮熟，凑成一道菜。宾客尝后连声叫好，并问菜名，李鸿章答：“好吃多吃！”岂料“好吃多吃”与英语杂烩发音相近，后来此菜便被命名为“李鸿章杂烩”。
另一种说法是：李命厨师加菜，但正菜已上完，厨师只好将所剩海鲜等余料混合下锅，烧好上桌，外宾尝后赞不绝口，并询问菜名，李用合肥话说：“杂碎”（即杂烩谐音）。此后，“大杂烩”便在美国传开，合肥城乡也仿而效之，遂成名菜。
经过一百多年的改良，李鸿章杂烩的材料已经日益丰富，做法也比原来复杂。其材料包括海参、鱼肚、鱿鱼、鸡肉、火腿肉、鸡蛋、干贝、玉兰片、腐竹、冬菇等等，李鸿章杂烩多味混合，醇香不腻，咸鲜可口，符合外国人和中国人的双重口味，成为享誉美国的一道中国名菜。
其实，李鸿章杂烩这道菜很有讲究，且事先要做过“前期工作”，如以鸡杂、肚片、火腿、面筋、香菇、山笋、海参等垫底，用麻油酥烧，然后装入陶盆，点以白酒、酱油等佐料，放在炭基上用文火慢烧，直至油清菜熟方原盆上桌，十分讲究。
历史评价
慈禧称赞他是“再造玄黄”之人。李鸿章去世的消息传来，慈禧的眼泪当场就流了下来，感叹说：“大局未定，倘有不测，再也没有人分担了。”
曾国藩的评价：“少荃天资与公牍最相近，将来建树非凡，或竟青出于蓝也未可知。”
梁启超在他所著的《李鸿章传》中为李鸿章所处的境地感到无尽的悲恸。书中写到：“当戎马压境之际，为忍气吞声之言，旁观者尤为酸心，况鸿章身历其境者！”
梁启超在《李鸿章传》，称：鸿章必为数千年中国历史上一人物，无可疑也。李鸿章必为十九世纪世界历史上一人物，无可疑也。梁启超说他“敬李鸿章之才”，“惜李鸿章之识”，“悲李鸿章之遇”。
日本首相伊藤博文视其为“大清帝国中唯一有能耐可和世界列强一争长短之人。”
日本人对李鸿章的评价是：知西来大势，识外国文明，想效法自强，有卓越的眼光和敏捷的手腕。
美国人的评价是：以文人来说，他是卓越的；以军人来说，他在重要的战役中为国家作了有价值的贡献；以从政来说，他为这个地球上最古老、人口最多的国家的人民提供了公认的优良设施；以一个外交家来说，他的成就使他成为外交史上名列前茅的人。