643年春天，此时距离李渊晋阳起兵已经过去26年。李世民综合考虑平定天下、玄武门之变和治理天下这三个方面的因素，选出了具有代表性的二十四位功臣，让阎立本为他们作画，并将其放入凌烟阁中，这就是著名的凌烟阁二十四功臣。
而在这二十四位功臣中，有一位最为特殊，他就是殷开山，为什么说殷开山是最特殊的呢?原因就在于殷开山去世的非常早。622年，他跟随李世民平定刘黑闼叛乱，却死在了途中，那时李唐刚刚建国不过才四年，还未实现天下统一，而玄武门之变也还要等上四年。
按照这个时间线来说，殷开山似乎不可能立下多大的功劳，以至于过了21年，李世民居然还记得这位老部下，并让他入了凌烟阁。但事实就是，殷开山的确成了凌烟阁功臣，而且还排在了第十三位，柴绍、侯君集、程知节、李绩和秦琼等人都排在了他的后面。
而且，殷开山不仅是凌烟阁功臣，同时也是太原元谋功臣，与殷开山一样兼具两种身份的功臣只有六人。从这里可以看出，殷开山必然是有他的特别之处的，不然不会被唐太宗如此记住，要知道当时与殷开山死在同一事件中的还有猛将罗士信，而罗士信就啥都没捞着。而且后来有几个参与了玄武门之变的功臣也没能入凌烟阁，这就更加突出殷开山的特别了。
关于殷开山的生平和功绩，《旧唐书》中大约有六百字的描述，可以让我们简单了解一下殷开山，他出身世家，“少以学行见称，尤工尺牍。”隋炀帝时期在太谷县做县长，政绩不错，深受百姓爱戴。
但在隋末割据大势下，殷开山也开始选择了自己的方向，即投向了李渊，被任命为大将军府掾，成为晋阳起兵的核心成员之一，他当时的地位是很高的，也很得李氏父子看重，以至于“参预谋略，授心腹之寄。”
在真正上战场之后，殷开山最初是李建成的部下，曾跟随李建成攻下西河郡，后来李世民被任命为渭北道元帅，殷开山就做了李世民的长史，从这个时候开始逐渐成为李世民的心腹。先是和刘弘基击败隋将卫孝节，长安被攻破之后，殷开山成为郡公。
但在接下来的第一次浅水原大战中，殷开山和刘文静在李世民生病不管事的时候忘记了李世民的嘱托，急于和薛举一战，结果导致唐军大败，士兵死伤过半，殷开山和刘文静也因此被除名。
薛举本来想乘胜攻打长安，但在出发的时候突然生了一场大病，并直接死了，薛举的死为唐军解决了一个大麻烦，所以距离第一次浅水原之战不过才两个月，第二次浅水原之战又开始了，薛举的儿子薛仁杲完全打不过李世民，在这一仗中，殷开山因为跟着李世民所以算是建立了战功又官复原职。
之后又跟随李世民征讨王世充，王世充和窦建德都被解决掉之后，窦建德的旧部在刘黑闼的带领下发动了叛乱，李世民奉命平叛，在去平叛的路上，殷开山病死。
殷开山的死对李世民打击很大，他“哭之甚恸”，而殷开山原本的官职是正三品的陕东道大行台吏部尚书，死后被追赠为从二品的陕东道大行台右仆射，21年后，其画像入凌烟阁。
从他的这些经历来看，除了是李世民的心腹外，其实也不算是立下了很大的功劳，至少不足以如凌烟阁，但是殷开山并不是真正的武将，他实际上是能臣，他经历中有两点很为他加分，其一，他曾是李建成的旧部，其二，他善于招抚，正是这两点才让他脱颖而出，让李世民念念不忘。
他作为李建成的旧部，虽然时间并不长，但对于李建成的心腹或者有亲密交往的人应该是知道的。而殷开山又善于招抚，《旧唐书》记载：“时关中群盗往往聚结，众无适从，令峤招慰之，所至皆下。”峤是殷开山的名，即殷峤。
也就是说殷开山善于招抚，能够将关中的那些群盗收编进唐军中。这一点和房玄龄“收人物，致之幕府。及有谋臣猛将，皆与之潜相申结，各尽其死力。”有异曲同工之妙。
武德年间，李世民需要人才，也需要拉拢李建成身边的人，那么，殷开山为李世民招揽了些什么人呢?有明确记载的就是唐初名将张士贵。张士贵在隋末原本自成一派，但毕竟势力不算大，后来主动归顺了李渊，带领原先的部下继续征战，长安被攻下来之后，张士贵曾跟随李建成出征：
“隐太子之东讨也，以公材光晋用，誉重汉飞，战有必胜之资，威有惮邻之锐，授第一军总管，先锋徇地。”
李建成毕竟是大唐的太子，征讨这样的事情多是李世民在做，所以后来张士贵又多跟随李世民四处征战，但并未成为李世民的心腹大将，直到“太宗特遣殷开山、杜如晦赍金银四百挺以赐之。”张士贵才算是真正成为李世民的人，并在后来参与了玄武门之变。
另一个可能被殷开山引到李世民这边的就是常何，我们知道，常何在玄武门之变中发挥了巨大的作用，而他原本很可能是李建成的人，结果后来被李世民收买了。那么，谁去做这个中间人?自然是殷开山最合适。所以常何很可能在殷开山的劝说下成了李世民的人，并在624年被李世民召进京城，“于北门领健儿长上”，并帮助李世民用金刀子收买骁勇之士。
李建成并不知道常何已经被李世民收买，自然在玄武门之变的时候并未对常何起疑心，反而放心地进入了玄武门，结果被等在里面的李世民等人给解决了。
所以从这里来说，虽然殷开山在622年就已经去世了，但他为李世民所作的一切，到了626年的玄武门之变有很大的用处，也正是因为如此，李世民才会在643年的时候依旧记得这个老部下，让他的画像进了凌烟阁。