羊祜死后，闻讯的百姓无不伤心落泪，痛哭失声。为了纪念他的功德，百姓就把在襄阳城南的这座山命名为羊祜山。又因他在镇守襄阳时经常登临岘山，又在此为他建祠立碑。

人们以羊祜之名命名了一座山，千百年来，人们通过这座山、这块碑来纪念他，把对他的崇敬和怀念之情，都诉诸于这山与碑中了。所以羊祜山又代表着一种精神，这种精神已经化为一种信仰，烙印在百姓的心中，不可磨灭。襄阳的百姓将羊祜融入了一座山中，就像是羊祜在守护着这座古城，亲眼目睹这这座古城的变迁。