之后国民政府为张灵甫在南京玄武湖的小岛上为他建了衣冠冢。后来大陆与台湾的关系改善之后，他的妻子与儿子在上海给张灵墓建了一个墓。陕西地区的政府为了纪念张灵甫为他修建了一个陵园，将他与原配妻子葬在一起。然，张灵甫墓的真实所在地，现已不可考了。