在主持日军投降大典之后，何应钦忠实执行蒋介石的“以德报怨”方针，尽可能地少刺激日本战犯和战俘，以便能拉拢日本政界。侵华日军中，有145人被处死刑，400余人判徒刑。
因病去职
1946年5月，国民政府军事委员会改成国防部，何受陈诚等排挤，失去了参谋总长和陆军总司令两个重要职务，而由陈诚和白崇禧分任参谋总长和国防部长，何仅任小小的重庆行营主任一职。被蒋派往美国，担任联合国安理会军事参谋团中国代表团团长，一年多后，因国内反共战场吃紧，何奉召回国任总统府战略顾问委员会主任委员。1948年5月31日，改任行政院政务委员兼国防部长。在中国人民解放军强大攻势打击下，以翁文灏为首的国民政府内阁总辞职，何抱着“大厦将倾，独木难支”的痛苦心情，不顾蒋和黄埔系的挽留，住到上海江湾陆军医院割痔疮去了。
1948年底到1949年末，三大战役以共产党胜利告终，中共解放军直逼首都南京。蒋介石宣布“引退”，由李宗仁任代总统。何考虑到如跟李在南京，势必引起蒋的疑虑，遂以“避寿”为名去杭州。蒋深为感动，于3月12日何60岁生日前夕，派亲信张群，携其亲手题写的“安危同仗，甘苦共尝”寿轴，及一封情辞恳切的亲笔信交何，要何出任李宗仁政府行政院长，以便牵掣桂系。何感激涕零，明知临危受命组阁无异于跳火坑，但为报蒋“知遇之恩”，于3月23日当上了行政院长兼国防部长。
何当上行政院长后，提出了先签停战协定再行和谈的主张，以便依托长江天堑隔江而治，保持江南半壁河山以图后计。但国共和谈最终破裂。1949年4月23日人民解放军占领南京，宣告了国民政府在中国大陆的灭亡。5月13日，何应钦内阁在广州集体辞职，把烂摊子甩给了阎锡山的战时内阁，他自己则先到香港，后到台湾。
晚年冷落
何随国民党残兵败将逃到台湾后，寓居台北牯岭街，自称闭门思过，不闻政事。1950年3月1日，蒋介石又当上了总统。何备受冷落，被排出国民党中央委员会，只任一席中央评议委员；军队中任总统府战略顾问委员会主任── 一顶大而空的高帽子。
官场失意，但他仍以民间方式继续为蒋效力。他发起组织了中日文化经济协会，当了几年常委，便一直任会长；他又恢复了中国童子军总会，一直挂副会长头衔（会长为蒋介石）；他又是台湾道德重整会会长，前后十次出国进行国民外交。八十年代后，他还当上了三民主义统一中国大同盟主任委员。
何晚年的公事无非是开会应景，发表讲话，参加证婚、剪彩、葬礼等。其余大部分时间是打桥牌、打猎、打高尔夫球、栽花种树等。随着年迈体衰，特别是反攻大陆的希望破灭，何的注意力也逐渐从军事转移到台湾经济文化建设上，提出不少建议，对台湾经济文化繁荣非常关心。
何比其他去台湾的国民党元老们好的地方是生活不愁、家景不错、心情乐观豁达。他一生无子女，只过继其弟何辑五之女丽珠为后。他的夫人王文湘，1917年在贵阳与其成婚后，双方感情一直不错。王于1952年被医生诊断患有乳癌，发现时已属晚期，病情恶化，无法进行手术治疗，每年求医都奔赴日本，直到1978年4月病逝。何政坛无事，正好忙家，自己动手搞家务，对病妻尽丈夫之责，对独女尽父亲之责。在国民党上层圈中，有人称他是中国第一好丈夫。
何晚年反共之志不改，依然坚持三不政策。其妻病故后，他更茕茕孑立，形影相吊。1980年4月90大寿时，著名国画家张大千根据他平日的描述，精心画了一幅《泥凼风景图》作寿礼相赠。在众多或华贵、或荣耀的礼品中，他甚爱这幅少小记忆里的山水图。1986年4月，何应钦中风，被送进医院。1987年10月21日上午，何应钦寿终正寝，年97岁。
何应钦的故事
养生语录
不正的思虑是长寿的最大敌人。要用温和、慈良、宽宏、厚重 、缄默来克服自己心中的猛厉、残忍、偏狭、轻薄、浮躁，才可能做到心直虑正。
与张学良
弗雷德里希教授给大陆学生讲段子，他说他父亲跟张学良是很好的朋友，大家都说张学良在台湾被软禁，其实倒没达到那个程度。他们两家还经常来往，每次张学良到何家做客，总是两辆车，前面坐着少帅，后面一辆坐着赵四小姐。张学良曾跟他说他年轻的时候曾经度过一段荒唐的岁月，吃喝嫖赌，然后说“这都是你爸教我的”。
辈分讲究
如果是子辈，就是“绍”字辈，如何绍周，还有前儿刚被贵州省台办主任接见的侄辈何绍?、何绍牧。不过，弗雷德里希教授说发生在台湾，那么就是敬公的四弟和五弟的儿子。因为只有何辑五和何纵炎是在解放前夕去了台湾的。由此，那位何祖光，亦肯定不是敬公的亲孙，而是侄孙。
何应钦故居
兴义城南边的泥凼镇是已故国民政府军政部长、行政院长何应钦先生的故乡。1890年4月，何应钦出生于镇南一幢木结构中式房屋内。房屋原系普通民居，是何应钦之父于1874 年修建的。后随着何应钦职级的不断升迁，其家人先后改建加高了三次。为了配套，又新建两幢厢房，最后成为巍峨高大、宽敞明亮的一楼一底标准的三合院建筑。楼房中的石柱、石凳、石缸、石壁，雕龙画凤，刻制精细；墙上镌刻的 “鱼跃鸢飞”，书法精湛；花鸟虫鱼，栩栩如生。
人物评价
何应钦的飞黄腾达，始于在黄博军校任总教官，后来追随蒋介石反共，由广州到南京，登上他“一人之下，万人之上”的军政生涯的峰巅。何应钦虽有其他元老望尘莫及的诸多荣衔虚位和社会活动，但却是身不由已，言不由衷的。 他出门忙忙碌碌，进家却显得空空荡荡；在与人相处或应酬时欢欢喜喜，而独处静卧时却忧忧愁愁，有时难免悲悲戚戚。何应钦生前由他自己或由别人所编织的历史死结，无论大陆还是台湾，向来认识并不一致。他塑造自己形象的材料，有些是他自己造的，有些是别人给的，有些更是说不清道不明。他曾几次试图解开一些有关他个人历史的死结，对某些似成定论但确有探究必要的他曾参与其中的历史事件的隐秘有所披露，但因主客观条件制约而未能如愿。