此馆的原本是文物陈列馆，在1984年筹建改为黄庭坚纪念馆，经过一年的装修重建后开张。选择南山崖作为纪念馆是因为该处曾是这位诗人读书、休息和游玩处，这个地方留有黄庭坚无数的墨迹。崖壁上、地上等凡是可以书写的地方都留有他碑刻，数量多达上百处，而这些碑刻早在新中国成立不久就被列为珍藏。

馆中珍藏的墨宝数量之多，令人叹为观止。南山崖上建有许多当地风格的建筑，山谷祠便是其中一座。祠中屹立着黄庭坚的石像，石像的姿态像是在构思文学创作，又像是在俯瞰大地和担忧人间疾苦。黄庭坚纪念馆的基本陈列为他的书法碑刻、生平事迹和当地的历史文物。

黄庭坚纪念馆之所以出名，是因为黄庭坚的诗文和书法堪称绝妙，后世子孙鲜有人超越，这些都是我们膜拜的对象。他是北宋著名的诗人，诗与苏轼齐名、词与秦观齐名。同时，为官期间也写了不少体恤民情的诗，其中戒石铭的影响非常大。