朱元璋对远路来投的李善长说道：“先生来投，但不知有何赐教呢？”李善长听了之后默不作声的，仔仔细细的注视了朱元璋好一会儿，突然之间兴奋的大声说道：“总算天有日民有主了！”朱元璋看到李善长这副奇怪的举动，不仅奇怪的问道：“先生此话作何解释呢？”李善长说道：“主公家居在濠州，跟汉高祖的家乡沛县并不远，山川王气，应该全应在主公的身上。
”朱元璋心中不由得狂喜，难以掩饰的一种喜悦之情微微的脸上显露出来，但他并没有被喜悦冲昏了头，而是问道：“那以先生之见，这四方的战乱当在何时可以结束呢？”李善长说道：“当年汉高祖虽然出身于布衣，然而豁达而大度，知人而善任，不贪图眼前的富贵与享乐，不烧杀抢掠，所以只有五年的时间就成了霸业，以今天的局势来看，与秦末时分确有些相似，如果主公效法汉高祖的话，那天下就很快会被平定。”听了李善长的这一席长谈，朱元璋是如梦方醒，就这样，两人你问我答，整整谈了一整天。在晚饭之后，秉烛而谈，谈兴更浓，蜡烛是换了一支又一支，一直谈到了东方发白。在谈话结束的时候，李善长提醒朱元璋，如果他以汉高祖为榜样的话，那以后肯定会有大作为的。而朱元璋则认为李善长的到来，很有可能就是萧合的转世，来辅佐他这真命天子，于是他当即任命李善长为记室，一切机密谋议都认真的听取李善长的意见和建议。从那以后，李善长就成了朱元璋的臂膀和心腹，担负起军师和大总管的重任。
朱元璋在控制了定远之后，挥师南下，取了滁州。在略取滁州之后，濠州彭大已经死去，郭子兴斗不过赵均用一帮，率部来滁，朱元璋见到郭子兴来到，遂交出了兵权。在公元1354年，元兵围攻六合。六合在滁州的东面，是滁州的屏障，六合如果一失的话，那滁州就会很危险。主帅郭子兴因为和六合的守将有嫌隙，所以不准备派兵去援救，朱元璋就用唇亡齿寒的道理苦劝，终于劝说服了郭子兴。郭子兴手下众将不敢与元军交锋，互相推诿不去，朱元璋看到这种情况，自告奋勇率军赴援。六合这时已经坚持不住了，赵义军正向滁州的方向撤逃，元军在后面尾随而至。
朱元璋会合六合义军之后，在中途设伏击败了元军。又考虑到元军有卷土重来的可能，便送回了所斩获得的马匹，引得元军他去，滁就这样滁州得以保全，也解了六合的围。这一仗，显露出了朱元璋的出奇制胜，富有远见的军事才能。仗虽然打胜了，人马也壮大了，但问题又出来了。滁州城内缺粮，军心也不稳，局限于滁州，迟早会出乱子的。朱元璋分兵去取和州，以求解得粮危之局。在公元1355年，和州攻克，朱元璋升为总兵官，成为统领和州的主将。在和州，朱元璋发现进城的官兵随意掳人妻女，弄得很多家庭妻离子散，于是马上颁布了禁令：严禁官兵抢占妇女。自此以后，军纪大改，而和州的百姓们也就认为朱元璋的军队军纪严明，民心也就归附了。
不久之后，孙德崖因为濠州缺粮，也率部来到了和州。一时间郭孙两派之间纷争又起，郭子兴一气之下一病身亡在滁州。在这一年，刘福通率领的红巾军在亳州拥立韩林儿为帝，号称为小明王。打出了虎贲三千，直抵幽燕之地；龙飞九五，重开大宋之天的旗号。在郭子兴死去之后，小明王封郭子仪的弟弟郭天叙为都元帅，张天佑为右副元帅，朱元璋为左副元帅。郭张二人皆非统领之才，所以朱元璋成了这支红巾军的实际掌权者。朱元璋手握实权之后，对如何牢牢控制军权，支配将士和谋士，琢磨出了自己的一套思路。他严防文武勾结，不准自己的将领自己选用谋士，所有的文臣都由他自己选派。他规定：所克城池，令将官守之，勿令儒者在左右议论古今。长袖独舞，杜绝其他将领独立成长的机会。对战将统兵，他是极为不放心，派义子监督。另外规定将士的家属必须留驻后方，以为牵制。统治者的威权在这个时候已经稍稍显露了一点点。
和州的军队不断的壮大，攻退了好几次元军的围攻之后，部队很快又缺粮了。隔江而望的太平，地冲要建，东北通集庆，南邻芜湖，周围是盛产大米的粮仓。从军需上和战略两个角度考虑，都是该争取的地方。只是长江天险实在是难以穿越，这一计划还只能作纸上谈兵。刚好朱元璋了解到彭莹玉手下有一支巢湖的水军，便利用他们与邻近的义军仇杀的机会，说服他们来到了和州。
朱元璋有了水军以后，便誓师渡江，首战常遇春就攻下了采石，又效仿项羽破釜沉舟之计，将所有的船只斩断了缆绳，任其顺流而下，鼓励所有的士兵不要满足暂的饱食，应该奋勇当先，直取太平，取得更大的胜利。朱军势如破竹般攻下了太平。朱元璋进入了太平，又颁布了禁约：不许虏掠，违令者按军法处置。军纪为之严明。太平失去之后，元军派兵水陆两路首攻集庆，朱元璋派徐达绕到敌军的背后，前后夹击，败走元军，俘虏了元军陆路的指挥义兵元帅陈野先，便劝其归降。在七月，张佑先领军首攻集庆，陈野先和红巾军貌合神离，暗中牵制，张天佑被元将福寿击退。九月，郭天叙和张天佑、陈野先再攻集庆，陈野先与元军事先勾结，出卖了郭、张二人，红巾军大败。陈野先也在混乱中被忠于元朝的民兵所错杀，唉！这真是何苦来由！第二年三月，朱元璋亲率大军进逼集庆。
