为掩护联军侧后,刘邦拜彭越为魏相,令其攻占梁地(今河南东北部)。此后,刘邦军由西向东连克砀(今河南夏邑东南),萧(今安徽萧县西北),顺利攻占彭城。 项羽闻讯,留部将继续攻齐,自率精兵3万由鲁(今山东曲阜)迅速南下,出胡陵占领萧县,切断联军退路,随后,由西向东反攻。楚军乘刘邦纵情享乐,疏于防范之机,晨时开始进攻,中午即大破联军,将刘邦所部挤压于谷水、泅水(位于今江苏徐州市西)之地。联军自相践踏,被楚军斩杀10余万人,余部向西南山地溃退。楚军追至灵壁(今安徽濉溪西南)的睢水再歼联军10余万汉军逼入睢水,并围困刘邦,意图生擒。值大风骤起,飞沙走石,刘邦率数十骑乘机逃走。此战,刘邦遭到严重挫折,诸侯纷纷背汉向楚。
彭城即徐州,城邑四周虽被大小不等的丘陵、高地所环绕,但交通却十分发达,又为泗水、睢水流经县境,是东西南北交通之要冲,自古以来即为东方之重要战略城邑,彭城周围地区是大兵团交战的理想战场。项羽得知刘邦进占彭城的消息后,立即选拔精锐骑兵3万多人,以突然迅猛的远程奔袭,迂回彭城以西,切断汉军西退之路,将汉军包围歼灭于彭城地区。 刘邦乘项羽率军攻齐,彭城空虚之机,率各路诸侯,以绝对优势之兵力进占彭城,捣毁项羽的根据地,进而歼灭项羽之军。刘邦为使自己师出有名,在进到洛阳新城时,接受了董公“顺德者昌,逆德者亡”、“兵出无名,事故不成“、“明其为贼,敌乃可服”的建议,以讨伐项羽杀害义帝为名,进行了周密策划。
刘邦亲自为义帝发丧,“袒而大哭,哀临三日”,装出悲痛欲绝的样子,制造舆论,收买人心。刘邦为争取各诸侯,还派出使者通告各诸侯说:天下都共同拥戴义帝,尊敬朝廷,但项羽却违背民心,放逐义帝并将义帝杀害于江南,大逆不道。汉王刘邦亲自为义帝发丧,全军白衣素装,带关中全部兵马,率三河(河东、河内、河南)之士,愿意同各诸侯王一起,共同起兵讨伐杀害义帝之人。刘邦做了这样的策划之后,才开始发兵东进。刘邦军按照预定的作战策划,决定了以下的主要部署:刘邦军,分三路大军向彭城进发:刘邦率张良、陈平、夏侯婴、靳歙、卢绾和河南王申阳、韩王信、司马欣、董翳、殷王印等诸侯军为中路。常山王张耳、魏王豹等也随同刘邦军行动。将军薛欧、王陵、王吸为向彭城进攻之南路军。曹参、灌婴、周勃、樊哙等率领北路军。韩信继续率军围攻废丘之章邯军。萧何镇守栎阳,仍负责前线部队之人力、物力的补给。
项羽军为防备汉军之东进,在进入齐境作战前后即做了一些战略上的部署,对黄河沿岸即今定陶、中牟、太康、淮阳等地均布设兵力重点防守,彭城也留有一定兵力守备。在刘邦军进占彭城等地后,项羽军又根据刘邦军进驻彭城附近地区的情况,决定以主力迂回彭城以西,截断汉军西撤的道路,一举将刘邦军歼灭于彭城以南地区。
汉高祖二年四月,刘邦率领大军,分南北中三路开始向彭城及其周围地区推进。南路军进占今河南太康地区后,继续向苏北方向进击。北路军自围津渡过黄河,一部进到煮枣,曹参则率领另一部大军击败楚将龙且、项它,占领定陶,再继续前进,攻占了胡陵(江苏沛县北50里有胡陵城)。刘邦所率之中路军,先攻下曲遇(今河南中牟),进至外黄(今河南杞县)。此时彭越率领3万人马与刘邦相会。进而又向砀萧地区进军,顺利攻克该地,随即进驻彭城。刘邦占领彭城,以为项羽老巢已被拔除,对项羽迅速回击的可能性估计不足,疏于戒备,整日在项羽宫内与美女大臣饮酒作乐,欢庆胜利。这时刘邦将50余万大军布防于今山东之枣庄、曲阜、邹县,江苏之沛县,安徽砀山等地区。既无迎击项羽军可能回击彭城的战略计划,也未做相应的作战部署。