为保卫郑州，蒋介石被迫下令开掘黄河大堤，引河水阻挡日军，1938年6月，为延缓日军攻势，蒋介石下令开掘黄河渡口——花园口，造成黄河改道，使数百万人流离失所。花园口决堤是抗战时期的“三大惨案”之一，其是非功过，长期以来众说不一。借黄河阻击日军的建议，最早来自于蒋介石的德国顾问法肯豪森。

　　1935年8月，他在一份关于抗战的建议书中，指出在北方“最后战线为黄河，宜作有计划之人工泛滥，增厚其防御力。”蒋介石在此处批注了“最后抵抗线”五个字，并未特别在意。其后，陈果夫也有“我如能取得武陟等县死守, 则随时皆可以水反攻制敌”的建议。

　　1938年5月徐州会战期间，日军在数处切断陇海铁路，封锁了数十万中国军队向西撤退的道路。为保存实力，中国统帅部下令放弃徐州，主力向苏北、皖北、豫东突围。日军占领徐州后，继续向西追击中国军队。为阻止西进和从豫北、鲁西穿插的日军，很多军政要员，也建议开掘黄河大堤，延缓日军攻势。

　　譬如，军事委员会办公厅副主任姚琼建议，在“河北省之刘庄，鲁省之朱口，倘即施以决口工作……则河必改道南向，一时造成泛滥区域，虽不能淹没敌军，至少可使其行动困难，全战局情势必将改观……”军令部高级参谋何成璞也建议，“倘施工决口，则黄河即循故道直奔徐州，不特大地泛滥，使敌机械化部队失其效能，抑且足以摧毁其战力，使其打通津浦之企图仍归泡影。”②由于当时情况尚未非常紧急，此议并未实行。

　　随后，中国军队又在兰封会战中失利，兰考、开封失守，郑州告急。郑州地处平汉、陇海两大交通线要冲，其中平汉线是中国在北方能控制的唯一一条南北交通动脉，是军事物资、部队运输的要道;陇海铁路也是苏联援华物资运往各战区的重要通道。同时，郑州扼守黄河天堑, 是从中原南下、西进的必经之地。

　　如果郑州失守，洛阳、西安必失，襄樊、南阳也难保，那么武汉岌岌可危。郑州如此重要，当时中国却无力防守，一方面在此地区的中国军队都是从徐州战场撤下来的疲兵;另一方面，再从其他地区调兵增援，也已来不及。在这种情况下，中国统帅部只能将开掘黄河大堤提上日程。

　　1938年5月31日夜，第一战区司令长官部、黄河水利委员会与军事委员会电话密商，确定要掘开黄河大堤。次日，蒋介石正式下达了决堤命令。6月9日, 中国军队在郑州北郊的花园口决开黄河大堤，在以水代兵, 阻挡了日军的同时，也造成了大片黄泛区。延缓日军攻势，付出3万平方公里土地、1250多万人受灾的代价。

　　如上文所说，花园口决堤带来的影响有正、反两方面。对日本来说，黄河决口为日军带来相当困扰。依据日方《中国事变陆军作战史》，1938年6月13日，为救援被困中牟的第14师团一部，日军“从第五、第十、第一百十四师团、军兵站部抽出工兵各约一个中队及架桥材料一个中队，配属给第十四师团。

　　随后于16日又从第一军调来独立工兵第二联队主力及渡河材料一个中队。”6月15日，同样被困大水中的第16师团，也从各处急调工兵，“然后向泛滥地区以外撤退”。6月16日—24日，日军通过飞机，向被困的第14、16师团投下合计61吨半的补给物资。