许多战士受不了正规部队生活的约束，对严格管理意见很大，发牢骚，甚至个别人还开了小差。但军部首长毫不放松，对正规作风的养成要求严格。项英带头以身作则，剃了光头，打着绑腿，天天跟着部队出早操。他经常对干部战士们说：“要把分散的游击队改造成统一集中的正规部队，必须要培养严谨的正规作风。”
叶挺则激励大家说：“我们附近就驻有国民党第3战区的部队，我们能不如他们吗？能让他们看我们的笑话吗？”
叶挺和项英的话，把指战员的劲头鼓了起来，大家不再发牢骚，自觉刻苦地训练。这时，发生了一件有趣的事。国民党第3战区司令长官顾祝同听说新四军在潜口开辟了一个新操场，叶挺每天带领部队练兵，搞得热火朝天，他心中不免有些嫉妒。为了装潢门面，顾祝同下令驻岩寺的国民党军队也要每天训练，与新四军比个高低。
顾祝同在国民党军队中素以“带兵仁慈”而出名，他统辖的部队纪律松懈，驻岩寺的这支国民党军队很长时间没有进行过军事训练，原有的一个操场早已杂草丛生、垃圾成堆。为了应付顾祝同的命令，当地的国民党军官就强征了一些老百姓替他们清理操场。当时正值春忙季节，老百姓怨声载道。恰巧，叶挺有一天从这里经过，听说了这件事，生气地对在场的几个国民党兵说：“真是岂有此理！现在农忙，叫老百姓来做这个，那你们干什么？”叶挺叫老百姓都回去种地，然后对垂头丧气站在一边的几个国民党兵说：“我们新四军的操场，是官兵一起动手开辟的，你们的操场要自己打扫，不许逼老百姓去干！快回去对你们的长官说。”
顾祝同事后知道了这件事，虽心怀不满，但也无可奈何。驻岩寺的国民党军队哪里还敢跟新四军比赛训练，只能任由操场上继续生长杂草。
在进行基本训练整顿作风的基础上，针对日本侵略军的作战特点和华中敌后平原水网地区的作战地形，结合八路军在华北敌后的实战经验，新四军军部又指导各部队进行了军事技术和战术训练，普遍开展了从单兵射击、刺杀、投弹到班的战术配合训练，还要求部队学习游泳、划船等技能和防空、防毒等知识；军部还集合各级指挥员研究伏击与反伏击、袭击与反袭击、攻打据点等战法，还组织部队进行了打骑兵、打汽车、打坦克演练。
在江南第l、2、3支队集中整训的同时，第4支队将第7团、第9团集结于湖北黄安七里坪，第8团集结于河北确山竹沟镇地区，在支队司令员高敬亭的主持下，也进行了集中整训。
经过严格训练，收到了明显成效，新四军面貌焕然一新。皖南练兵把新四军由一支游击部队改变成为正规部队，为挺进敌后，开辟华中敌后抗日根据地奠定了坚实的基础。
经过训练，新四军指战员个个精神焕发，积极要求上前线，抗击日寇。与此同时，各地年轻人纷纷报名参加新四军。新四军队伍由此不断扩大。而国民党军队谈起与日军打仗，个个唉声叹气，而对吃喝嫖赌，个个不仅说得眉飞色舞，而且很在行。两军形成了鲜明的对比。
5、 谭震林率部挺进皖南敌后
1938年5月初，叶挺、项英向全军下令，深入敌人后方，开展广泛的游击战，达到牵制和分散敌人的兵力，配合国军主力正面作战，在持久战中，争取最后的胜利。还要求全军：集小胜为大胜，团结群众以游击动作进行胜利的战斗。
陈毅首先率第1支队由岩寺出发，6月4日抵高淳，14日入茅山一带，旋即展开于镇江、句容、金坛、丹阳地区。张鼎丞指挥第2支队于7月进入敌后，展开于京芜铁路和京杭国道（今宁杭公路）之间的江宁、当涂、溧水、高淳地区。第1、2支队在苏皖地区英勇作战，密切配合，共同创建了茅山抗日根据地。
第3支队在策应第1、第2支队东进苏南之后，在副司令员谭震林、政治部主任胡荣的带领下，于1938年五六月间进入皖南红杨树—峨桥—青弋江一带，开展对日寇的斗争。
这是叶挺、项英根据中共中央、毛泽东提出的“主动地积极地深入到敌人的后方”的指示，下达的战斗命令。
早在新四军各部集结之初，中共中央和毛泽东就对新四军如何生存与发展这一重大的战略问题作了考虑。
新四军该不该挺进敌后？什么时候挺进敌后？挺进敌后能否在平原地区开展抗日游击战争并建立抗日根据地？这些不仅是摆在新四军面前的问题，也是当时困扰全党、全军的问题。
面对日军的锐利攻势，国共两党在谈判中初步达成了一些共识。共产党对于两党联合抗日寄予了厚望，并积极筹划抗日大计。以毛泽东为首的中共中央领导人夜以继日地工作，对中国长江南、北的作战部署提出了意见：
甲、为使敌攻武汉处于我之战略包围，新四军必须建立下列两个主要军区及6个辅助军区。一、苏浙皖赣边军区，以皖南为重心，攻击并准备攻击南京、芜湖、杭州、浙赣路与湖口之敌。
二、鄂豫皖军区，以舒桐、黄广商固为中心，攻击并准备攻击占领3条铁道及沿江之敌。以上两区是主要的。国民党须派大员指挥，并各部署三万至五万兵力于其中。我们则以陈毅支队置于皖南，以高敬亭支队并准备增加一部置于皖北。
三、浙南军区，攻占占领杭甬路及浙赣路之敌。
四、鄂赣军区，准备攻击占领沿江及南浔路之敌。
五、汉水军区，准备攻击占领平汉路南段之敌。
六、豫西军区，准备攻击平汉路中段之敌。
乙、为在敌之远后方起战略钳制作用，须建立苏鲁军区，以苏鲁交界为中心并指挥鲁东战争。此区国民党须派可靠大员，我们派人辅助之。此区与皖南、皖北须立即部署。
（《新四军·文献》（1），第67页）
以上意见，高屋建瓴，中共中央希望八路军、新四军领导人及其他领导人考虑后向蒋介石提议。1937年12月30日，中共中央把此部署转发到了新成立的新四军军部，为新四军下一步的活动初步指明了方向。
中共中央的意思很明确，华中新成立的新四军，应立即在江南和江北两个方向，分别以陈毅支队和高敬亭支队东向敌后发展。
但如何在敌后开展游击战，在新四军乃至八路军的很多人心中，仍然顾虑重重。不从思想上消除这种顾虑，将直接影响新四军的战略部署。1938年5月4日，毛泽东致电项英，就当前进行敌后游击战争进行了全面指示。这封电报被新四军许多领导人称为毛泽东的“第一个五四指示”（《钟期光回忆录》，第76页），也是针对国民党对新四军的限制和不怀好意而制定的英明决策：
在敌后进行游击战争虽有困难，但比在敌前同友军一道并受其指挥反会要好些，方便些，放手些。敌情方面虽较重，但只要有广大群众，活动地区充分，注意指挥的机动灵活，也会克服这种困难，这是河北及山东方面的游击战争已经证明了的。在侦察部队出去若干天之后，主力就可准备跟行，在广德、苏州、镇江、南京、芜湖5区之间广大地区创造根据地，发动民众的抗日斗争，组织民众武装，发展新的游击队，是完全有希望的。在茅山根据地大体建立起来之后，还应准备分兵一部进入苏州、镇江、吴淞三角地区去，再分一部渡江进入江北地区。在一定条件下，平原也是能发展游击战争的。条件与内战时候有很大不同。当然，无论何时，应有谨慎的态度，具体的作战行动，应在具体情况许可之下，这是不能忽视的。薛岳等人的不怀好意，值得严重注意。但现时方针不在与他争若干的时间与若干里的防地，而在服从他的命令，开到他指定的地方去，到达那里以后，就有自己的自由了。尔后，不要对他事事请示与事事报告，只要报告大体上的行动经过及打仗捷报给他。（《新四军·文献》（1），第111页）
在这个指示中，毛泽东首次提出新四军要向长江以北发展。
考虑到新四军远在江南，又刚刚成立，5月14日，中共中央书记处又向长江局、东南分局及项英发出《关于新四军行动方针的指示》，指出：
第一，根据华北经验，在目前形势下，在敌人的广大后方。即使是平原地区，亦便利于我们的游击活动与游击根据地的创立。我们在那里更能自由地发展与扩大自己的力量和影响。只要自己不犯严重错误与慎重从事，是没有什么危险的。
第二，因此，新四军正应利用目前的有利时机，主动地积极地深入到敌人的后方去，以自己灵活坚决的行动、模范的纪律与群众工作，大大地去发动与组织群众，建立地方党委，组织与团结无数的游击队在自己的周围，扩大自己，坚强自己，解决自己的武装与给养。
第三，必须向党的干部解释目前斗争形式与过去的根本区别，因此，目前的工作方法与方式应与过去的根本的不同。要他们在大胆的向外发展与积极的抗战行动中，来扩大与巩固统一战线，争取更多同情者在自己的周围，同时扩大与巩固自己的力量。也只有这样，才能有力地打击造谣中伤与打破防范限制。（《新四军·文献》（1），第112页）
在6月初，毛泽东又单独致电项英：“地区扩大已不患无回旋余地，望根据战争的实际经验，凡敌后一切无友军地区，新四军均可派队活动。不但太湖以北、吴淞江以西广大地区，即长江以北到将来力能顾及时，亦应准备派出一小支队。”（《新四军·文献》（1），第115页）
6、 皖南百姓由冷淡变为热情
皖南，地处苏、浙、皖三省交界，境内山脉连绵，地形复杂，西北是天堑长江。日军占领南京、芜湖之后，这里成了与敌对峙的前线。在新四军第3支队未来之前，国民党第3战区在此驻防。上海、南京、杭州、芜湖等大中城市相继沦陷后，国民党军队内普遍存在着失败主义情绪。所以，皖南地区的抗战气氛也是十分消沉的。
国民党为了推行其“借刀杀人”的毒计，限制和压迫我皖南新四军，规定第3支队活动地区是在东起芜湖、宣城，西至青阳、大道镇，地跨宣城、南陵、泾县、青阳等县，横宽约百十公里，纵深约五六十公里的沿江狭长地带。该地区北依长江，东临强敌，背靠顽军。日军为了控制长江交通，在沿江江南一带，配有敌第15、第116师团，重兵驻守，经常出动“扫荡”。
国民党第3战区以十万之众对我军包围监视。形势对我是很不利的，但是卫岗处女战的胜利，首战蒋家河口战的捷报，大大鼓舞了第3支队的广大指战员。他们深深懂得，只要能像兄弟部队那样，紧紧地和当地人民在一起，就能克服困难，站稳脚跟。
在新四军军分会和军部的直接领导下，3支队进入皖南地区后，广泛进行了抗日救亡运动。他们走村串寨，开演讲会，唱抗日歌，办壁报，写标语，进行抗日和国共合作的宣传。皖南山区一扫沉闷空气，很快活跃起来。
开始，皖南民众对第3支队的到来是很冷淡的，因为他们所见到的中国军队太多了。国民党大批军队，有的是从京沪前线撤下来的，有的是被日军击溃的散兵游勇，有的是调动换防的，几十万大军在皖南地区穿梭似的来来往往。
这些穿黄衣服的丘八，没有给人民带来任何好处，而且拉夫抽丁，打人骂人，抢劫财物，污辱妇女，干尽了坏事，如同盗匪一般。老百姓中流传这样四句话：“日寇未到，灾难普降，山河未失，浩劫临头。”
所以，百姓们初见第3支队，以为也是这样的军队。但是经过第3支队热情的抗日宣传、组织民众救亡运动、帮助民众保卫山寨、解决民众疾苦等工作，以及我军不害民、不扰民的模范行动，博得了皖南人民的好感，使得他们对第3支队逐渐有了新的认识。特别是他们听说第3支队就是从前的红军，便更加信任第3支队，把第3支队看成真正的抗日队伍，是人民的子弟兵。
红军，对皖南人民来说是非常熟悉的。早在苏维埃运动时期，皖南人民就有光荣斗争的历史。1934年，方志敏、寻淮洲率领抗日先遣队北上抗日时到过皖南，红7军团司令员寻淮洲就是在皖南牺牲的，至今烈士墓仍在皖南茂林。当年红军的光荣传统，皖南人民仍记忆犹新。今天红军又来皖南抗日，更加激起了皖南人民的抗日情绪。
太平县三门镇开明绅士刘敬之，家有茶山，还开设了一个经营杂货的小店。当年红军抗日先遣队路过三门时，他目睹了红军秋毫无犯、抚慰人民的情景，深受教益；现在他又受到第3支队抗日爱国精神的感召。他虽然担任国民党联保主任，但同国民党地方势力有矛盾，同新四军的关系比较好，大儿子刘旭初还参加了新四军。
三门是杭州、歙县到新四军军部驻地云岭的必经之地，刘先生主动为南来北往的新四军干部提供住宿，他家实际上成了新四军的招待所，他还主动组织竹筏队，为新四军运输辎重。
民众发动起来了，抗日救亡的烈火在燃烧。广大青年农民纷纷要求参加新四军，到前线去杀鬼子，就连一向最封建的皖南妇女也行动起来了。在新四军的帮助下，皖南泾县成立了民众动员委员会、难民后援会等抗日组织，还办起了十几个妇女识字班和壁报编写处。紧接着，皖南地区党的组织普遍恢复和健全起来。地方党组织建立起来以后，积极领导和组织人民，配合我军和其他抗日军队开展抗日活动，当向导，查路条，反奸，反特等，特别是接近前线和敌后地区，普遍成立了各种抗敌协会。繁昌地区有猎枪的青年，组织了猎户队，队员达3000多人。
军爱民，民拥军，新四军与皖南人民心连心。有一次，我军有3个战士，到敌后去侦察敌情，和敌人遭遇了，他们看见有3辆汽车迎面开过来，上面坐满鬼子，便准备好手榴弹一起丢去，汽车被炸毁了，鬼子被炸死了。但是没想到在后面又开来2辆装满鬼子的汽车。我军3个英勇的战士在日军大兵包围下牺牲了。日军走后，当地老百姓把烈士的遗体抬回来，买了棺材，举行了盛大的安葬仪式，并且还为这3个烈士立碑纪念。还有一次，一个汉奸假装乞丐，偷偷摸摸地混进茂林，几个机警的农民，见此人东张西望，行迹可疑，马上警惕起来。随后又细心观察，发现了很多破绽，便把他扣起来，经过审问，果真是敌人的密探。
皖南由于是新四军军部所在地，它成了大江南北进步青年向往的地方。抗战开始后，全国大批进步青年奔赴民主圣地延安，但由于国民党的封锁，敌占区的阻隔，路途的遥远，去延安是很不容易的。于是，安徽、江西、浙江、江苏、上海的许多进步青年，舍远求近，汇集皖南。
还有很多华侨青年也满腔热血，历经千山万水到皖南来了。青年们到了皖南以后，换上了灰军服，扎起裹腿布，穿上草鞋，成了雄赳赳气昂昂的革命战士。他们先集中在军部教导大队，学政治，学军事，经过一段学习生活后，他们就背起背包，挺起胸膛，走向茅山脚下，走向石臼湖畔，走向上海近郊，走向巢湖和洪泽湖四周……他们中间，有的做文化工作，有的做民运工作，有的做医务工作，有的在地方做群众工作，为新四军输入了新鲜血液。
皖南人民群众的发动，抗日救亡运动的兴起，为皖南我军反“扫荡”斗争创造了有利条件。
