1939年1月，日军更大规模的“扫荡”果然开始了。这次“扫荡”，日军出动了5个师团共3万多人，兵分11路，从平汉、津浦东西两线出击，向我冀南中心区合围过来。所采取的战法是：稳扎稳打，步步为营。企图消灭或驱逐冀南八路军，控制冀南枢纽地带，摧毁抗日根据地。这时，刘伯承、邓小平均在南宫，他们认为，“目前冀南整个局面正处严重关头”，徐向前与他们分析研究，决定采取基本的还是游击战，具体战法是“先溃后收拾”。即先主动放弃主要的县城、据点，避实击虚，经过一段时间的消耗，使敌人疲惫或兵力分散之后，再转入反攻，以游击战的形式，到处去打击分散之敌，给敌以重创，收拾局面。具体部署是：将冀南和进入山东的部队区分为5个战斗集团，“完全以游击态势，分区活动，在保存有生力量的原则下，经常以小部队保持与敌接触，但不放松有利时机、有利条件下消灭敌人”。
进攻的日军一开始就以其咄咄逗人之势，逐步侵占冀南主要县城，并进一步控制乡村要点，企图压缩八路军回旋余地。八路军且退且战，寻机打击敌人，使日军每占一地都要付出相应的代价。比如，由隆平进攻邢家湾的日军，中途不断受到阻击，140华里的路程3天才能达到，而且还付出了伤亡百余人的代价。平乡日军东犯广宗、威县，半月没能达到目的。曲周日军步骑百余进占安儿寨，全被消灭。宁晋日军进占大杨庄，遭八路军夜袭，200余人全部被歼。在香城固地方日军步骑200余、汽车9辆全部被消灭。从德州往临清沿河行驶的日军汽艇9艘，被击沉一艘，30多人毙命。被根据地军民的游击战打得诚惶诚恐的日军，又以南宫、巨鹿、威县、广宗等地为重点，反复“扫荡”，徐向前指挥军民坚持游击战，不以敌小而不战，不以人少而不打，不断地积小胜为大胜。至5月间，前后大小战斗达400多次，杀伤日伪军5000多人，有效地实施了平原地的游击战，有效地坚守了冀南平原根据地，一年前，毛泽东还曾说：“能否在平原地区建立长期支持的根据地，这一点现在还没有证明”，5个月的反“扫荡”证明，八路军不仅坚持了游击战争，而且打得日军走投无路，不得不却而退步。
徐向前这种积小胜为大胜，以小的代价换取大的胜利的作战指导，充分反映了敌强我弱，敌优我劣的客观实际，也完全适用于游击战的战法，正如他对冀南平原地作战利弊条件分析的那样：“冀南根据地，北靠德石路、东西两侧紧邻津浦路、平汉路，沿线的重要城镇，均有敌重兵把守。敌人进攻根据地，交通方便，合围迅速，增兵容易，几天之内，便可直捣我腹心地带。在这种地区与敌作战，无疑比偏远的山区或平原困难得多”，然而，“敌人虽有机动方便的条件，但兵力有限，不敷分配，占了县城，控制不了乡村；顾了前面，顾不了后面。我军依托广大乡村，分散游击战，与敌周旋，零敲碎打，避实击虚，便能变被动为主动，弄得敌人疲于奔命，捉襟见肘。久而久之，敌人经不起兵员、物力的消耗，只得结束‘扫荡’，仓皇撤走，天下还是我们的。由此说明，平原游击战争大有文章可做”。的确，徐向前结合冀南的实际情况，总结出了一套十分精彩的平原游击战争战法，这就是：
（一）战略上是持久的、防御的，战术上是进攻的、速决的。行军要秘密而迅速，飘忽不定，让敌人摸不着头脑。
（二）冬季防守，夏季进攻。夏季有青纱帐，敌人的快速部队不易活动；冀南多枣、梨、杏等果木树，加上大面积的高粱、玉米等高杆作物，利于我到处隐蔽，伏击敌人。
（三）白日隐蔽，夜间行动。
（四）破坏道路，迟滞敌之交通。
（五）指挥与勤务机关随时准备战斗。
（六）无固定后方作战。
（七）开展麻雀战。
（八）部队不断转移位置。
这些原则，不是机械地照搬山地游击战战法，也完全有别于其他平原地游击战战法，而是完全附合于冀南这一特定平原地区的游击战战法。所以，运用这些战法，使得冀南的游击战争，搞得轰轰烈烈，节节胜利。打得敌人寸步难行，连连败退。
冀南抗日根据地的局面一经奠定，新的使命又将徐向前调到了山东战场。来到山东战场之后，他仍然是首先了解分析山东战场的实际，研究山东战场反“扫荡”作战的新特点，由此制定相应的作战指导。
徐向前在研究山东根据地的游击战争时指出，敌人新“扫荡”的特点是：把后方转变为前线，以碉堡形成巩固的点与线，“扫荡”不平衡，次数加多，规模变小，时间短促，烧杀与封锁并用，以“游击战”对游击战，同时强化汉奸政权，利用汉奸、特务进行破坏，顽固派摩擦全面化。他要求根据地的全体军民一定要正确认识自己的力量，由于“扫荡”不断加剧，游击区逐渐缩小，八路军暂时还将处于劣势，根据地建设困难将增多。他还提醒大家，不要有不切实际的天真想法，要反对太平观念，反对失败主义，反对妥协投降；要坚持、忍耐，要有利自己的游击战争去消耗敌人。他号召每一个指战员、事务员、工农学商、各阶层、男女老幼，都明确树立“一切为了迎接敌人的新‘扫荡”’、“一切为了粉碎敌人的新‘扫荡”’的思想。
军事打击是粉碎敌人新“扫荡”的主要手段。所以，根据当时的主客观条件，徐向前提出粉碎敌人新“扫荡”的原则和战术是：
——基本采取游击战，但要争取运动战，只有巧妙地把游击战与运动战配合起来，才能各个击破敌人的分进合击。
——正规军游击兵团，灵活的适时的集中力量寻求运动战。在敌人“扫荡”的数路围攻下，用游击战来粉碎敌人的“扫荡”是不可能的，因此要机动以集中兵力击破敌人一路，或机动的来打击敌人。
——要善于保存自己的力量，不要被敌人所暗算。不会保存自己的力量与不肯积极打击敌人，都是没有前途的。
——力争主动，反对被动，反对防御。在战略上说，游击战是防御的，在战役战术上应采取进攻的方法，无论游击战或运动战，在进攻敌人时固然是主动，在不利情况下，适时退却，转移另求机会，也是争取主动。如像有人分兵把口子那样做自处防御地位，都是不了解争取主力权的原则的。
——加强正规兵团的补充、整顿、训练，是刻不容缓的任务。
——整理地方游击队，扩大游击队，加强对游击队的训练。
——加强主力兵团及地方游击队部队的政治工作。
——注意交通联络与侦察网的建立。必须在事前确保这些工作的健全而严密，保证在任何战斗环境中，不至受到严重损害。
——游击队与主力兵团，要达到确实有机的配合。主力兵团孤军奋斗，游击队单独游击，双方都不能完成其任务：同时也不能使游击队在斗争中有迅速的锻炼与进步。只有游击队与主力兵团配合作战，才能打击敌人，粉碎敌人的“扫荡”，使游击队走上正规化的道路。
——要与友军密切配合作战。反对隔岸观火、坐观成败的恶习，发扬互相策应、互相帮助的优良作风，至于专门制造摩擦、减消抗日力量的罪恶行为，必须予以彻底肃清。
徐向前所提出的这些思想和原则，对山东军民粉碎日军新“扫荡”，发挥了重要的指导作用。
根据斗争形势和山东部队的实际，徐向前还提出了武装力量建设的“九化”要求，即：主力兵团正规化；地方武装基干化；游击队组织化；自卫团普遍化；党的领导绝对化：战斗力顽强化；行动积极化：生活艰苦化；纪律严肃化。为达到这一要求，徐向前还提出了一套具体办法：
——大量培养、选拔、聘请干部；“聘请各种人才”，如骑兵、技术兵、炮兵人才，技师、技术人才，如无线电人才，只要愿意真正抗日，都欢迎他们来参加八路军。使山东真正成为抗日根据地，需要各种人才开辟树立各方面的工作。
——加强军事和政治训练。
——加强参谋、机要工作和军需供给工作，开办参谋人员的训练班，学习参谋业务，制定参谋工作制度，要求技术参谋进到战术战略参谋。
——解决军需供给，自力更生，开源节流，这是以减轻人民负担为出发点的。每个干部发一块银元，规定要自买鞋穿。部队用槐树花、谷草灰染布。在战斗中注意收集弹壳，打一枪后，马上把弹壳收藏起来，不要只收集自己的，而且还要收集敌人遗弃的。
正是在徐向前的正确领导下，他在山东的时间虽然不长，但是在发展山东的武装力量方面却取得了可观的成绩。徐向前后来回忆说：“在山东军政委员会的统一领导下，由于各部队的积极努力，广大人民群众的支援，山东我军的发展与扩大是比较迅速的。山东纵队1939年6月至7月间部队的数量是2.5万人，到1940年我离开时，主力和地方基干部队达到了5.1万人，还不包括拨给兄弟部队的3.2万人。一一五师在1940年初是5.8万人，到9月就发展到7万多人。”
