卢俊义在被捕后得到燕青、石秀等人相救,在梁山落草。并且在梁山坐上第二把椅子,是梁山总督兵马的第一副元帅。卢俊义上梁山后跟随宋佳参加过大大小小多次战役,曾经活捉史文恭,在征辽的战役中,卢俊义更是大显神威,独自和大辽的四员猛将激战两小时,并且最后战胜耶律宗霖,吓跑了其他三元员大将,这是卢俊义在整本书中最威武的时候。并在日后征讨宋朝的心腹田虎等人时,活捉卞祥、秒杀方翰、活捉贺从龙等人,显示了他不凡的能力。
呼延灼在《水浒》中也是威猛无比,其祖父是宋朝开国大将呼延赞,呼延灼使用一对水磨八棱钢鞭。在《水浒》中,卢俊义前期经常被官兵逮捕,其中有一次,梁山出动大军攻打大名去营救卢俊义,呼延灼月夜赚关胜,宋江等人计擒索超,并攻下大名就出卢俊义。
在《水浒传》中,卢俊义和呼延灼都是武功上乘的人物,所以二人的武功谁高谁低也一直备受广大水浒爱好者的争议,但认为卢俊义是梁山排名第一的人占据大多数,卢俊义的武功和三国时期的吕布有一拼,从其一招擒史文恭,单挑辽国四王子就可以看出,并且史文恭曾经二十招弄伤梁山五虎秦明,而关胜和呼延灼、索超、徐宁四个人联手大战辽国四王子才战个平手,所以,卢俊义是当仁不让的梁山第一。