后来何清调查出来这件事情可能和白胜有关，就在半夜的时候命人把白胜夫妻俩从穿上给抓进了大牢。白胜一开会否认这件事情，但是后人官府的人找到了拿包赃物，白胜也只能交代了。后来晁盖打败了何涛上了梁山，成为了寨主，但是白胜却还在大牢之中，于是决定要把白胜给解救出来，后来吴用买通了牢里的人，帮助白胜越狱。越狱之后的白胜也跟着吴用上了梁山。白胜上了梁山之后也参加了多次梁山的大大小小的战事，在攻打无为军、三打祝家庄。攻打唐高州、攻打曾头市的时候都曾经立下过战功，但却也没什么显著的功绩。排座次的时候白胜排第一百零六位。

梁山招安之后，白胜还是跟着梁山的人马四处南征北伐，先后参加过征讨辽国、田虎、王庆等多次战役。最后在征讨方腊的半路中，因为杭州横行瘟疫而病故。