等到萧道成当上丞相之后称帝，还没有弱冠的陶弘景就被他先后任命为诸王的侍读，之后担任奉朝请一职，这是一个十分闲散的官职。当时朝廷的礼仪事务，皇帝和百官一般都是向他请教，可见他深受器重。不过，陶弘景志不在官场，他虽然和诸王等贵族生活在一起，但他不汲汲于权利和富贵，总是把自己自己一个人关在屋里面，不和外面来往。

公元492年，陶弘景上书辞职，临行时朝中百官为他设宴践行，因为当时来送的人太多，帐篷和车马都堵住了道路。之后，他就隐居到来山中去修行，并把那座山称之为茅山，学习道教的符箓炼丹道法等，并且游历名山寻访仙药。梁朝建立后皇帝几次请他出山都遭到了拒绝，不过还是十分尊重他，时常写信向他询问国家大事，因此陶弘景被称为“山中宰相”。

陶弘景生性喜欢写作，到了晚年更是如此，主要是道教著作，此外也涉及天文、地理、医药、养生等领域。去世时已经八十有五，谥号贞白先生。