适逢黄土高原的雨季来临，暴雨普降，连日兼旬，延绵不断，从洛川到西安的道路上一片泥泞，马蹄溅起的泥浆溅得满身都是。当林彪、聂荣臻二人赶到西安时，浑身上下成了一个泥人。聂荣臻在西安小停几天。林彪继续东行，他搭火车到潼关，然后换木船过渡，越过黄河。雨季的黄河，浊浪滔天，湍急的河水滚滚而来，咆哮而去。渡船在激流中颠簸，时而跃上浪尖，时而跌入谷底，惊心动魄。只有在此时此境，渡客才能领略到黄河的雄壮，聆听到黄河的脉搏和呼吸。

过了黄河，便是山西风陵渡。这里已是一片喧嚣。所有进入山西的部队均得换乘山西特有的小火车，否则只有徒步行军。山西铺设的铁轨与外省不同，均是窄轨。这是“阎老西”在军阀混战时期的“发明创造”，藉以防范外省军阀乘火车长驱直入奔袭山西省会——太原市。林彪一路风尘仆仆，于9月上旬赶到太原，与一一五师先头部队三四三旅会合。9月中旬，日军兵分几路向山西太原推进。其中一路由大同进攻雁门关，一路由蔚县、广灵西扑平型关。“两关”一失，太原不保。蒋、阎二十万部队奉命防守“两关”要隘。中共以民族利益为重，决定援助他们作战。于是，一二○师驰援雁门关，一一五师日夜兼程，向平型关急进，阻击进犯之敌。

林彪率领三四三旅由太原、原平向灵丘急进。沿途所见，触目惊心。国民党退兵如潮水般涌过，他们一批又一批，用步枪挑着弹药和抢来的包裹、母鸡，垂头丧气，惊恐万状。国民党士兵看到一一五师向前线开去，人人感到奇怪，他们极力向八路军战士形容日军的可怕，双方展开了一段生动的对话：“你们为什么退下来?”“日本人有飞机坦克，炮弹比我们机关枪的子弹还多，不退下来咋办呢?”“当兵还怕死?”“别吹牛皮，上去试试。”“你们究竟打死了多少日本鬼子兵?”“我们还没见过鬼子兵的面哩。”“为什么不和敌人拼一拼?”“找不到长官，没有人指挥，打不了哇!为防止国民党退兵影响部队抗日作战的士气，制止“恐日病”的发生和蔓延，林彪命令三四三旅改走小路，避开国民党部队，向灵丘方向前进。

在西安多呆了几天的聂荣臻在9月上旬赶上一一五师的后续部队，即由徐海东率领的三四四旅。中旬，聂荣臻乘车到达原平，询问林彪位置。师司令部的参谋人员告诉政委：“林师长已到灵丘以南观察地形去了。”聂荣臻于是立即带领一一五师师部和三四四旅走山区小路，急如星火地向先头部队前进的方向赶去。9月23日，聂荣臻等抵达平型关东南的上寨镇，见到了林彪。林彪指着一道道山壑，说道：“可以在这里打一仗!”

平型关位于山西东北部古长城上，自古以来是晋、冀两省的重要隘口。关内关外，群山峥嵘，层峦叠嶂，沟深谷幽，阴森邃静。从平型关山口至灵丘县东河南镇是一条由东北向西南伸展的狭窄沟道。地势最险要的是沟道中段，长约五公里，沟深数十丈，沟底通道仅能通过一辆汽车，而南北两头沟岸却是比较平坦的山地。这正是一个打伏击的好地方。在选择作战地形上，林彪的眼力是别人所不及的。历史又给了他一次成功的机会。