贞观十七年(643年)二月二十八日，唐太宗命人画二十四功臣图于凌烟阁，皆真人大小，程知节名列其中，位于第十九名。
同年，程知节转任左屯卫大将军，检校宫城北门驻军，加封为镇军大将军。
唐高宗显庆元年（公元656年），程知节任葱山道行军大总管讨伐西突厥，击其歌逻、处月二部落，斩首千余级。十二月，程咬金引军至鹰娑川，遇突厥强兵四万骑，其前军总管苏定方师五百骑驰迎冲击，西突厥大败，追奔二十里，杀获一千五百多人，缴获的战马及器械，漫山遍野，不可胜计。副大总管王文度非常急妒苏定方的大功，对程咬金说：“现在虽说是获胜，但官军也有死伤，千万不要急追 敌寇，应自结方阵，慢慢谨慎前行，敌则战，万全之策。”更出格的是，王文度还对人讲皇上有密旨给他自己，让程咬金及全军归他指挥，并下令军队不许深入追敌。可怜远道万里的唐军士卒终日骑行马上，严冬朔风，身被重甲缓缓而行，粮草不继，人马相继冻病而死。苏定方劝程咬金：“我们出师目的是为了歼敌，现在反而坐困自守，敌来必败，如此怯懦，何以立功！皇上以您为大将，怎么可能又密诏副手发号施令，其中肯定有诈。请下令把王文度抓起来，飞表上奏皇上弄个清楚。”英雄老矣，此时程咬金全无青壮年时代的锐气，摇头不从。
唐军至恒笃城，有胡人数千归降。王文度说：“这些人等我们离开，肯定又会反叛，不如全部杀掉，还能得大笔资财。”苏定方切谏：“这样干我们自己倒成贼了，怎能称得上是为国伐叛！”程咬金默许王文度。几千胡人被杀得干净，王文度“分其财，独定方不受”，史书虽未明讲程大将军也贪财宝，但“独定方不受”，已表明程老自己肯定也分了一大份儿。回师以后，事情败露，王文度因矫诏当死，特除名免职。程咬金因逗留不进及不努力追敌，减死免官。大英雄晚节不保，杀降利财，贪生怕死，令人遗憾。虽然不久又被朝廷起用为刺史，毕竟气短，程咬金上表退休。高宗麟德二年（公元665年），程咬金善终于家。赠骠骑大将军，赔葬昭陵。
其子程怀默，袭卢国公爵；程怀亮，以功臣之子娶太宗女清河公主，授驸马都尉、左卫中郎将；少子程怀弼，官至右金吾将军。
《程知节墓志铭》载：程知节以“麟德二年二月七日，染疾甍于怀德里第，春秋七十有七”。可知程知节的生年应在隋文帝开皇九年（589）年。
小说形象
在以《说唐》为代表的系列话本及历史演义小说中，程咬金，字知节，小名一郎，使一柄八卦宣花斧，是一名性格直爽、粗中有细的福将，而且特别长寿，活了一百多岁，直至武则天政权垮台。据此改编的戏曲影视中，程咬金也是一个重要而可爱的角色。各种版本常有出入，下面仅就较通行者扼要介绍。
整个故事是从秦琼、程咬金的童年开始的。程咬金原本家住济南，幼年丧父，与秦琼是总角之交，后随母逃荒至历城，与秦琼分别。长大后，程咬金贩卖私盐，打死捕快，判了死缓，坐牢三年，恰逢隋炀帝大赦天下，释放出狱。
出狱后，程咬金受母亲教诲，要干正经营生，去卖柴扒，却遇上响马 尤通。尤俊达有意要骗程咬金做强盗，教他斧法，程咬金总学不会。程咬金梦中有一位老人教会了他全套精妙斧法，醒来演练，却被俊达喝破，只记得三招半，这就是所谓“程咬金三斧”。是哪三招半，说法很多，不过无非下劈、横抹、斜挑及击刺等几个关键动作，确实是斧法的精华所在，简单而又实用。在打斗中，程咬金的前三斧半，威力无比，很多对手迅速崩溃；但只要挺住不败，差不多就变成程咬金落花流水了。所以，程咬金三斧可说是一试金石，不能顶住的人是无法进入好汉排名的。
程咬金头一次当强盗，就做了笔大买卖。靠山王杨林的义子大太保罗芳和二太保薛亮，护送皇纲进京，他们打着靠山王的旗号，以为平安无事，谁知半路杀出程咬金；二人敌不过三斧半，落荒而逃。
程咬金劫了皇纲，惹出无数事端，这才有贾家楼三十六人结义，反了山东。其后，程咬金三斧定瓦岗，单身探地穴，被众人拥立，号为混世魔王。裴仁基、裴元庆父子投降瓦岗后，程咬金迎娶裴仁基之女裴翠云。
程咬金做首领不痛快，救出李密，将领袖交给他。李密日渐骄横，冷了众人的心，程咬金等人最终投奔李世民。程咬金立下不少功劳，封卢国公。
程咬金也是《隋唐演义》中赫赫有名的人物，其绝技就是梦中学会的三板斧，外号“混世魔王”，人如其名，干的混事数不胜数，以贩卖私盐起家，和秦琼是姑表兄弟，曾为瓦岗寨大魔国国王，后投降李唐，凭小聪明和运气也立了不少大功。一生运气极好，活到一百多岁，历经高祖、太宗、高宗、武则天、中宗、睿宗六朝，可以说是隋唐英雄中第一福将。
在很多小说中，其三斧子披辕门、三斧子定瓦岗被后人津津乐道，也就是因为他抢劫杨林的黄纲，杨林逼山东官员破案，山东地方官员请出程的表哥秦琼，秦左右为难，上演了一出染面涂须诈登洲，后发展到三挡杨林九战魏文通，其中，去登洲途径两雷庄岔道，一条去登洲，等于自己送死，一条去程躲避之处，等于出卖自己兄弟，被后人引为两肋(雷)插刀(岔道)典故。
小说中程咬金使用三板斧的时候通常会报出招数名称，因为小说中程的记性不是很好，他一般是先说名字，然后才能想起招数。
第一斧：劈脑袋 用斧头从上往下砍，无论对方攻击不攻击他，程因为只会这三斧子，所以大发拼命，而对方往往方寸大乱。
第二斧：鬼剔牙 在对方横武器招架时，收斧头，献斧纂，攻击对方面部，由于速度快，对方一般都使用铁板桥躲避。
第三斧：掏耳朵 在二马错蹬时，回身横扫，由于对方前招为铁板桥，刚起身，很难躲闪，所以这三斧子很厉害。
后来在秦琼的指点下，程又自创了半招，后人也有管程的招数叫三斧子半的说法。