宝元元年(1038年)，党项族人李元昊称帝，建国号大夏(史称西夏)，定都兴庆(今宁夏银川)，与宋朝的外交关系正式破裂。次年，为逼迫宋朝承认西夏的地位，李元昊率兵进犯北宋边境，于三川口大败宋兵(三川口之战)，集兵于延州城下，准备攻城。消息传至京师，朝野震惊。

　　康定元年(1040年)三月，因边事吃紧，仁宗以范仲淹众望所归，召回京师，担任天章阁待制、出知永兴军。七月，升为龙图阁直学士，与韩琦并为陕西经略安抚副使，担任安抚使夏竦的副手。八月，范仲淹请知延州，到任后，更改军队旧制，分部训练，轮流御敌;同时修筑青涧城和鄜城，作为军事基地，节省边境开支。仁宗诏命这支军队为康定军。

　　康定二年(1041年)正月，仁宗诏命陕西各路讨伐西夏，范仲淹上疏，建议加强边防守备，固守郦延，以军威恩信招纳西羌归附(时羌族为元昊向导，为其所用)，徐图西夏，仁宗采纳。范仲淹又奏请修筑承平、永平等要塞，把十二座旧要塞改建为城，以使流亡百姓和羌族回归。

　　二月，元昊进兵渭州(今甘肃平凉)，仁宗批准夏竦反攻计划，韩琦命尹洙谒见范仲淹，联络同时发兵。范仲淹认为反攻时机尚未成熟，坚持不从。韩琦派环庆路副都部署任福率兵出击，西夏军受挫撤退，任福下令急追，追至西夏境六盘山麓，于好水川遇伏被围，任福等十六名将领阵亡，折兵万余(好水川之战)。

　　四月，仁宗降夏竦为豪州通判，范仲淹为户部员外郎、知耀州，职责不变。

　　五月，范仲淹改知庆州，兼环庆路都部署司事。元昊起兵时，曾联络羌族，约定环庆路酋长六百余人为其向导。范仲淹到任后，即以朝廷名义犒赏羌族各部，与之签订条约，严明赏罚，羌族遂脱离西夏，为宋效力。为进一步稳固边防，范仲淹又修筑大顺城，遏止白豹城、全汤城一带的敌军进犯;同时，修葺细腰、胡芦等军塞，切断敌军通路，使明珠、灭臧两部族安心归附大宋。

　　庆历二年(1042年)闰九月，元昊分兵两路，再次大举攻宋。泾原路经略安抚招讨使王沿获知夏军来攻，命副使葛怀敏率军阻击，进抵定川寨，宋夏会战，宋军大败，葛怀敏与部将等16人战死，丧师9400余人(定川寨之战)。

　　元昊获胜后，挥师南下，进逼潘原，关中震动。十月，范仲淹率领六千军队，从邠州、泾州出发来进行援救，西夏军队撤出边塞。仁宗非常欣赏范仲淹军事才能，加封为枢密直学士、右谏议大夫，任鄜延路都部署、经略安抚招讨使。

　　十一月，仁宗采纳范仲淹建议，恢复设置陕西路安抚、经略、招讨使，让范仲淹、韩琦、庞籍分领职事。范仲淹与韩琦在泾州设置官第，将文彦博调到秦州做统帅，滕宗谅调到庆州做统帅，张亢担任渭州的统帅。

　　范仲淹为将，号令清楚，爱护士兵，对于前来归附的各部羌人，诚恳接纳，信任不疑，因而，至李元昊向北宋称臣(庆历和议)，西夏军队不敢轻易侵犯他所统辖的地区。