因为朝廷南迁,中原汉人被胡人大肆屠杀,留在北方的汉人百姓数量急剧减少,仅剩下四五百万。被逼入绝境的汉人在冉闵的带领下决定奋起反抗,同时冉闵对外颁布的杀胡令不但成功团结汉人激起民愤,更是冉闵攻败暴胡的一项重要政策。杀胡令共有三条,并非同时颁布,这更让百姓群情激奋,打得胡人措手不及。
杀胡令的经过还要从第一道杀胡令说起,第一道杀胡令是冉闵软禁后赵皇帝石鉴后颁布的,原文是“内外六夷,敢称兵器者斩之”,翻译过来就是:所有敢拿兵器的胡人都要杀。这到命令让积压这多年仇恨的汉人开始拿起武器,联合反抗,胡人则纷纷逃离城池。面对胡人向北逃难的局面,冉闵紧接着颁布了第二道杀胡令:与官同心者留,不同心者听任各自离开。可是怎样算与官同心呢?官家到底是什么心思呢?虽然百姓不甚明了,但是羯族外逃的部队正与追杀胡人的汉人在城门口相遇,汉人将羯族围困城中。没等胡人撤退,冉闵颁布了第三道命令:所有汉人,凡是斩一个胡人,凭人头便可加官晋爵。此令一下,汉人好像得到赦免一样开始理直气壮地屠杀胡人,为汉人报仇。一日之内,数以万计的胡人被砍头,尸横遍野,血流成河。
数百万氐、羌、胡、蛮族人面对汉人疯狂的血腥报复,无能为力,只好向北迁徙,重回草原。在胡人向北迁徙道路上,时常能看到病死、饿死的胡人。当年进攻中原的一众胡人,有八成都死在中原,仅两成回到草原,可谓元气大伤。
纵观杀胡令的经过,也可以看出冉闵的良苦用心以及其高深的智慧。