不久，范仲淹就调任河中府通判，之后又调任陈州通判。当时朝廷正在必建太一宫和洪福院，并在陕西购买木材。范仲淹便说：“昭应宫、寿宁宫被毁，上天的惩罚刚刚过去，现在又大兴土木，耗费百姓的钱财，这是不顺人心、不合天意的。应该停止修建宫院。减少平时年份征购木材的数量，以减免百姓长期以来所承受的负担。”又说：“现在受恩宠的多是内宫里直接降敕授官的人，这不是太平时期的政策。”这些建议虽未被采纳，但仁宗皇帝认识到范仲淹是一位忠诚之士。
太后死后，朝廷召回范仲淹并任命为右司谏。这时官员们大多揭露章献太后听政时的所作所为，范仲淹这时说：“太后受先帝的遗命，调教保护陛下十多年，现在应掩饰她的小过，以成全太后的美德。”仁宗于是诏谕朝廷内外，不准擅自议论太后从前的所作所为。当初，章献太后立下遗旨要太妃杨氏做皇太后，参与国家大事的决策。范仲淹说：“太后，是皇帝母亲的称号，自古以来没有因为抚育皇帝有功而代替皇帝立太后的。如今一位太后死了，又立了一位太后，天下人恐怕要怀疑皇上一天也离不开母后的帮助了。”那一年发生了严重的蝗灾和旱灾，长江、淮河、京东地区灾情尤为严重。范伸淹请求朝廷派官员去察看灾情，没有回应，就对皇上说“官内的人半天不吃饭，会怎么样呢？”仁宗动了恻隐之心，便派范仲淹去安抚江、准地区的灾民。他所到之处开仓济民，并且禁止灾民过多地从事祭祀活动，还上奏朝廷免除庐州、舒州上供的折役茶，江东的丁口盐钱，并且向仁宗逐条说明了救治朝政弊病的十件大事。
恰巧此时郭皇后被废，范仲淹率领谏臣、御史跪伏在阁门外争谏此事，没有得到皇上准许。第二天，范仲淹准备留下百官与宰相再次上朝争谏，当他刚走到待漏院时，接到朝廷下达诏书，命他出任睦州知州。一年后，范仲淹又被调任苏州知州。苏州发生了水灾，民众的田地无法耕种范仲淹让民众疏通五条河流，引导太湖水流人大海。他招募民众兴修水利工程，还没完工，就被调任为明州知州，转运使上奏朝廷，暂时留范仲淹完成水利工程，得到批准。朝廷提升范仲淹为尚书礼部员外郎、天章阁待制，并召他回京城，任为国子监，又转升为吏部员外郎、权知开封府。
当时吕夷简执掌朝政，任用和提拔的人大都出自他的门下。范仲淹向仁宗皇帝呈上一份《百官图》，指着图上官员升迁的次序说：“像这样的是循序升迁，像这样的是不合次序的升迁；循序升迁是公正合理的，不合次序升迁是不合理的，完全是私意。而且官员的提拔和降黜，超过一定限度的，不应该全部让宰相处理。”吕夷简很不高兴。有一天，在讨论建都之事时，范仲淹说：“洛阳地势险要、城池坚固，而汴京却是四面攻战之地，天下太平时陛下可以居住在汴京，但一有战事陛下必须居住洛阳。因此应逐步扩大洛阳的储备，修缮洛阳的宫室。”仁宗问吕夷简，吕夷简说：“这是范仲淹迂腐空泛的言论。”于是范仲淹写了四篇论述上呈仁宗，大多是斥责朝政的言论。
他说：“汉成帝相信张禹，不怀疑舅家人，导致了王莽篡国的大祸。我担心今天也有像张禹这样的人，破坏陛下的家法宗庙。”吕夷简愤怒地向仁宗诉说：“范仲淹离间陛下和我们的关系，他所提拔任用的人，都是他的同党。”范仲淹极力反驳，言语急切，最终被罢官而降任饶州知州。
殿中侍御史韩渎迎合宰相意图，奏请皇上把范仲淹同党的姓名写出来，在朝廷上张贴公布。干是秘书丞余靖上书说：“范仲淹因为一句话得罪了宰相，就加以贬斥放逐，而他从前所议论的是关于陛下母予夫妇间的事，皇上都宽容了他。我请求皇上追回并修改前面的命令。”太子中允尹洙说自己和范仲淹是师友关系，范仲淹还曾经向朝廷推荐过自己，他愿意和范仲淹一起降官被贬。馆阁校勘欧阳修因身为谏官的高若讷对范仲淹被贬一言不发，就写信责备了他。因此，这三个人都因范仲淹一案而遭贬。又过了一年，吕夷简也被免除了宰相官职。从此关于朋党之争的言论就开始了。范仲淹被贬离开朝廷，士大夫为他辩白举荐不止。仁宗便对宰相张士逊说：“过去贬谪范仲淹，是因为他密奏请求立皇太弟的缘故。现在他的同党幕僚这样称赞举荐他，怎么办呢？”于是再次下诏警告不准再举荐范仲淹。
范仲淹担任饶州知州一年后，被调任润州知州，之后又调任越州知州。此时元吴反叛，范仲淹被召回担任天章阁待制，出任知永兴军，后又改任陕西都转运使。正好赶上夏竦担任陕西经略安抚、招讨使，朝廷任命范仲淹为龙图阁直学士，担任夏竦的副手。吕夷简再次出任宰相，仁宗劝告范仲淹消除与吕夷简的怨恨。范仲淹叩头回答：“我从前所议论的都是国家公事，对吕夷简本人并无怨恨。”当时延州所属各要寨大多失守，范仲淹主动请求前往延州，被升为户部郎中兼任延州知州。从前朝廷规定将领分别统辖边境驻军：总管统辖万人，钤辖统辖五千人，都监统辖三千人。敌人侵略而要抵御时，官职低的将领需首先出击。范仲淹说：“对将官不加选择而只以官位的高低作为出战的先后，这是自取失败的做法。”于是他检阅本州的军队，把一万八千人分为六个部分，每位将领各自统帅三千人，分部训练士卒，根据敌军的多少，命令他们轮流出战抵御敌军。当时塞门、承平各要寨已被废弃，范仲淹采纳了种吐衡的计策，修筑青润城来扼守敌人进犯的要地，大兴农业种植，并开展民间贸易，互通有无。又因百姓远路输纳赋税过于劳苦，范仲淹便上奏请求将鄜城建成军事城池，让河中府同州、华州的中下人民就近缴纳税租。春夏两季调集军队就近取得给养，这样可以节省粮食开支十分之三，这还不包括其他方面节省的费用。皇帝下诏把这支军队定名为康定军。
第二年正月，仁宗下诏命令陕西各路出兵讨伐西夏。范仲淹说：“正月塞外天气非常寒冷，我军露天宿营受冻，不如等到春天再深入敌境，敌人人饥马瘦，以我军的实力很容易取胜。况且我军边防守备逐渐加强，军队纪律严明，敌人虽然猖獗，也会被我军的气势所慑服。鄜州、延州与灵州、夏州十分接近，而且是进出西羌的必经之地。只要我军按兵不动，观察他们的破绽，请皇帝允许我用恩惠和诚信来招他们归附。否则敌我情断义绝，我担心罢兵休战将会遥遥无期。如果我的计划达不到目的，也应发兵夺取绥州、宥州。占据险要的地方，屯兵垦田，做长久作战的准备，那么茶山、横山的老百姓就会带领全族前来归附。用开拓疆城来抵御敌人，是上等的策略。”仁宗皇帝完全采纳了范仲淹的建议。范仲淹又上奏请求朝廷修建承平，永平等要塞，逐渐招同流亡的百姓，加固城寨的保护屏障，使侦察敌情之路畅通，把十二座旧要塞改建为城，于是羌族与汉族流亡的民众都渐渐回来了，重操旧业。
过了很长一段时间，元昊遣还被俘的宋将高延德，用他来与范仲淹讲和，范仲淹写信告诫西夏罢兵。当时赶上宋将任福在好水川被西夏打败，于是元吴的回信语气很不客气，范仲淹当着使者的而烧了那封信。朝中大臣认为不应擅自与西夏通信，更不应该擅自烧掉西夏的来信，宋痒奏请处决范仲淹，仁宗没有同意，只先把范仲淹降为户郜员外郎、耀州知州，调任庆州知州，后又升任为左司郎中，任环庆路经略安抚，缘边招讨使。当初，元昊叛乱时，暗中诱使归属宋朝的羌人帮助自己，环庆路酋长六百多人，相约作为元吴的向导，不久事情败露。范仲淹因羌人反复无常，一到辖区就奏请到边境巡查。他以皇帝诏命的名义犒赏羌族各部，检阅他们的人马，并订立条约：“假若仇恨已经和解和了断，却又进行报复并伤人的，罚羊一百只，马两匹，已死的要砍下头。因负债而引起纠纷的，要到官府解决，擅自捆押无辜者，罚羊五十只，马一匹。
西夏军马侵入时，集台时不随本族前往的，每户罚羊二只，扣押他们的首领。敌军大肆入侵时，老幼自外而入并保口奉寨的，官府给他们粮食；不入寨的，每家罚羊两只；垒族不入寨的，扣押他们的首领。”羌族各部完垒接受了这些条件，自此以后他们开始为宋朝效力了。
范仲淹改任郁州观察使后，在上表书中说：“观察使官职在待制之下，我守边多年，羌人对我很爱戴，称我为‘龙图老子’，现在把我降官与壬兴、朱观为同一级别，只恐怕被敌军轻蔑。”他辞谢没有接受这一职务。庆州西北的马铺寨，处在后桥川口，位于西夏腹地。范仲淹想在这里筑城，认定西夏军队一定会前来争夺，就暗中派遣他的儿子范纯佑和蕃将赵明先进驻这一地区，自己率领军队紧随其后。众将领不知要去什么地方，到了柔远，范仲淹才发布筑城的命令，各种工具已准备好，十天就可以筑成，这就是大顺城。敌人发觉后，派三万骑兵来攻打，并假装不敌宋军。范仲淹告诫士兵不要追击，后来知道敌军果然有埋伏。大顺城建成后，白豹城、全汤城一带的敌军便不敢再进犯，环庆路从此很少被敌人侵扰了。
明珠、灭臧两个部族拥有数万强兵，范仲淹听说泾原路的宋军要袭击征讨他们，便上奏说：“这两个部族所在地道路险要，不可以进攻，从前高继黼就曾进攻失败。平时这两个部族有矛盾，现在要攻伐他们，他们必然会和西疆联合起来，向南入侵原州，向西骚扰镇戎，向东侵袭环州，这样边境的祸患将不会停止。
如果我们能北取细腰、胡芦泉等地，作为堡垒屏障，以切断敌人的道路，那么这两族就会安心归附，而环州、镇戎之间的道路就会畅通，这样边患就不足以担心了。”此后，宋朝便修筑起了细腰、胡芦泉等军事要塞。
葛怀敏在定川被敌军打败，敌人大肆劫掠到潘原，关中地区震动惊恐，民众大多逃入山谷之中。范仲淹率领六千人马，从邻州、泾州出发进行救援，听说敌人已撤出边塞，就返回了。一开始，定川兵败的事传到朝廷，仁宗皇帝按住地图对周围大臣说：“如果范仲淹出兵救援的话，我就没什么可担忧的了。”等范仲淹出兵的奏报一到，仁宗大喜说：“我始终认为范仲淹是可重用的。”便任命范仲淹为枢密直学士，右谏议大夫。范仲淹则因出兵无功，辞谢了皇帝的任命，仁宗没有接受他的辞谢。
当时朝廷已任命文彦博管理泾原路，皇帝认为泾原路深受战争的破坏，准备让文彦博和范仲淹对调所管辖的区域，派王怀德去传达此事。范仲淹辞谢说：“泾原路地位十分重要，我恐怕不能一个人胜任，我愿与韩琦共同管理泾原路，并一起驻扎在泾州，韩琦兼管秦风路，我兼管环庆路。泾原路有敌情，我便与韩琦联合秦凤、环庆两路的人马，以互成犄角之势进攻敌军；如果秦凤、环庆路遭到侵袭，我也可以率领泾原路的部队作为援军。我会与韩琦一起训练士卒，选拔将才，逐渐收复横山地区，来截断敌人的臂膀，用不了几年，便可期望平定边疆了。我希望陛下诏令庞籍来兼任环庆路统帅，以便形成首尾之势。秦州让文彦博负责，庆州让滕宗谅总领。孙沔也可以参与一齐作战。渭州，有一位武将就足够了。”仁宗皇帝采纳了范仲淹的建议，恢复设置了陕西路安抚、经略、招讨使，让范仲淹、韩琦、庞籍分领职事。范仲淹与韩琦在泾州设置官第机构，将文彦博调到秦州做统帅，滕宗谅调到庆州做统帅，张亢做渭州的统帅。
范仲淹作为将领，号令清楚，爱护士卒，对前来归附的各部羌人，真心接纳，信任不疑，所以西夏敌军也不敢贸然侵犯他所统辖的地区。元吴请求议和，范仲淹被朝廷召回任枢密副使。王举正胆小怕事不敢直言，不能胜任其职，谏官欧阳修等人认为范仲淹有当宰相的能力，请求朝廷罢免王举正而任用范仲淹，于是范仲淹又改任参知政事。范仲淹说：“执政官能由谏官的几句话就任命吗？”坚决辞谢不接受职务，还希望与韩琦一同出京巡视边防。朝廷任命他为陕西宣抚使，他还没有出发，朝廷再一次任命他为参知政事。这时王伦入侵淮南，朝廷规定在当地州县官吏中有不能坚守城池的人，朝廷调查核实后依法处决。范仲淹说：“平时不愿讲完善武备，敌人来了却只责令州县官员以死殉职，这应该吗？”这样那些没能守城池的小官吏才没有被杀。
仁宗皇帝当时一心要使天下太平，曾多次询问当前需解决的大事，范仲淹对人说“皇上对我信任至极，不过事有先后，长久太平带来的弊病，不是一朝一夕可以消除的。”仁祟再次赐给范仲淹亲笔写的诏书，并为这件事打开了天章阁，为此改变了许多法制内容。
