黄百韬兵团由于后卫部队已与解放军接火,没渡过运河的部队非常惊慌,后卫第100军44师才过了一个团,桥边一辆弹药车突然起火爆炸,负责炸桥的工兵以为解放军赶到,慌忙将运河大桥炸毁。44师两个多团还未过河,就这样被扔在了河东。黄昏后解放军第8纵队先头部队赶到,立即对留在河东的国民党军余部进行攻击,由于解放军只有一个营的兵力,无力消灭两个多团的国民党军,双方混战了一夜,解放军8纵主力赶到,于10日天明后,全歼了滞留在河东的国民党军共2700余人,并占领运河大桥。尽管大桥已被破坏,但损坏并不严重,解放军立即在桥面铺上木板,恢复了通行,仅半天就通过两个师。
当晚,黄百韬兵团四个军大部渡过运河,宿营于碾庄。黄百韬召集各军军长商讨下一步行动,他本想继续前进,退往徐州。但部队在渡运河时,相当疲劳,建制混乱,特别是第25军、100军遭到不小的损失,而最先渡河的第64军不仅没有损失,还构筑好了防御阵地,所以军长刘镇湘主张先停留一下,整顿部队,以免在行军途中为解放军所乘。而其他几个军长则主张不要停留兼程前进,双方争论没有结果。而黄百韬认为已过了最危险的运河,碾庄距徐州仅九十里,还比较安全。部队也需要时间整顿,就决定停留一天。
就在同一时间里,担任兵团侧翼掩护的63军原计划从窑湾渡河,但军长陈章骄傲轻敌,行动迟缓,到9日还未渡过运河,直到后卫被消灭才惊慌失措起来,率部急向窑湾撤退。到达窑湾已是夜晚,镇中居民逃避一空,找不到粮食充饥。半夜解放军第1纵队赶到,1纵由于司令叶飞生病由副司令兼参谋长张翼翔指挥,他向粟裕保证由1纵一个纵队单独负责解决63军。为尽快消灭63军,张翼翔决定以三个师从东、北、东南三个方向同时攻击,扫清外围后不作调整直接发起总攻。9日入夜,1纵就开始外围战斗,63军是仓促转入防御,工事很不坚固,企图逐村抵抗,消耗迟滞解放军。而解放军为缩短作战时间,各部从敌防御薄弱地区大胆突破,直插纵深,迫其全线动摇。经一夜战斗,基本肃清外围。随即发起总攻,至12日凌晨,全歼63军。军长陈章在部队失去控制时跳河逃命,结果中弹身亡。1纵结束战斗后于13日渡过运河,向狼山前进,参加阻击徐州方面对黄百韬的增援。
11月10日,蒋介石获悉黄百韬兵团在撤退途中遭解放军的追击,深感不安。他对刘峙所采取的先巩固徐州,再以有力部队策应黄百韬兵团的作战方案,极为不满。他决定黄百韬兵团就地固守待援,集中邱清泉、李弥两个兵团迅速东进与黄百韬兵团夹击运河附近解放军。同时催促黄维兵团兼程急进,务必于13日前到达阜阳、太和地区,参加徐州作战。这就结束了黄百韬兵团撤守之争,黄百韬命令部队转入防御,修筑工事准备坚守。兵团部在碾庄,以此为中心,25军在北,64军在东,44军在南,100军在西,形成环形防御体系。此时解放军的包围还不严密,黄百韬如果坚决西撤,还是能回到徐州的,但蒋介石的错误决策把他和十万官兵葬送了。
就在这天之前,原在距碾庄以西二十里的曹八集的李弥之第13兵团,奉徐州剿总司令刘峙的命令,不等黄百韬兵团来到就匆忙撤往徐州,导致黄百韬失去了侧后的掩护。而黄百韬兵团的第100军44师正向徐州撤退,原本黄百韬命令100军在碾庄以西防御,但44师在掩护兵团渡运河时损失惨重,仅剩师部直属队和不足一个团的战斗部队,师长刘鹤声认为所部损失太大,无力担负防御,就直接撤往徐州。该师一路西行于10日下午刚到达曹八集,就与兼程赶来的解放军第13纵队接上火。解放军先头部队114团于黄昏时发起攻击,半夜时分打开突破口冲入村内,但未控制好突破口,接应后续部队,只顾向纵深发展,结果突破口被封闭,冲入村里的部队弹尽粮绝,损失殆尽。次日凌晨,114团再次发动猛攻,再次打开了突破口,但很快又被封闭。直到天亮后,13纵后续部队陆续赶到,于11日中午发起总攻,至下午全歼44师残部约3000人,师长刘鹤声自杀。正是曹八集战斗后,华野才完全切断了碾庄与徐州之间的联系,将黄百韬兵团与徐州主力分割开。