俗话说：“乱世出英雄。”在兵荒马乱的年代，群雄逐鹿，剑拔驽张，争夺权力。朱元璋深深感到自己势单力薄，欲想夺取天下，贵在悟明：招兵买马、广纳贤士、出谋献策、风雨共济，这才是图谋天下的大计。
至正十二年（1352年）九月，彭大、赵均用投奔濠州，元军也尾随而来。濠州被元军整整包围了七个月之久，形势危急。这段时间里，朱元璋曾奉命突围而出，攻打萧县、灵壁和虹县，试图分散元军的势力。正当元军即将对濠州发动总攻之时，主帅突然病死，士兵无心恋战，解围而去。被围了几个月的濠州，此时城中的存粮基本上吃光了。朱元璋找了些熟人，弄到一些盐，换回几十石粮食，总算解决了郭子兴的燃眉之急。朱元璋是个志向远大之人，他在军中呆的时间长了，对各种事情看得越来越透彻，渐渐觉得这帮人治军无方，驭下无道，成不了什么大气候。他还深深地认识到，在这群雄割据、争夺激烈的局面下，不发展自己的武装，不招揽英豪为己所用，是很难有出头之日的。至正十三年（1353年）六月，他禀明郭子兴，回到故乡钟离招募士兵。不到十天，就募集了七百人。他将队伍带到濠州，交给郭子兴，自然，郭子兴非常高兴，提升他为镇抚，并把这七百人交给他统率，后来，又升他为总管。可以这么说，钟离之行是朱元璋事业的一个重要转折点，是他培植自己亲信势力的开始。朱元璋越来越不适应濠州城里的气氛，朱元璋觉得整天和胸无大志的人呆在一起，简直是浪费自己的生命，他不能忍耐下去了。至正十三年（1353年）底，他把自己统率的七百人交给别人，只带着徐达、汤和、吴良、吴祯、花云、陈德、顾时、费聚、耿再成、耿炳文、唐胜宗、陆仲亨、华云龙、常遇春、郭兴、郭英、胡海、张龙、陈桓、谢成、李新、张赫、张铨、周德兴二十四人离开濠州，前往定远发展势力。这二十四人可谓是“龙虎际风云”，他们此后一直追随着朱元璋，冲锋陷阵，出生入死，立下赫赫战功，明朝建立后三人封公，二十一人封侯。
这次出行很不顺利，工作刚刚开展，朱元璋就患了重病，只得返回濠州治疗，过了半个月，才有所好转。这时，他听说张家堡驴牌寨屯居着一支三千人的民兵，主帅与郭子兴相识，这时正断了粮，处境艰难，何去何从，尚未决断。
机不可失，时不再来，朱元璋觉得这是扩充势力的大好机会，不顾大病刚刚好转，身体虚弱，找到郭子兴，请求派自己前去招降。郭子兴问需带多少人，朱元璋说人多易生疑，带十个人就可以了，去张家堡的路上，朱元璋又犯了两次病，只得走走停停，一百多里的路竞走了六天，到了驴牌寨，见了主帅后，朱元璋对他说：“郭公与你是老相识，他听说你们缺粮，又得到消息说有别的军队要来攻打你们，特地派我来报知一声。如果你们愿意跟随郭公，就与我一起回去。不愿意，也要赶快移到别处，以避来犯之敌。”
主帅思来想去也没有办法，想不出其它主意，又见他说得真诚，就与朱元璋交换了信物，说等收拾好行装，就到濠州归附。朱元璋见主帅如此说，便将费聚留下等候，自己先回濠州，不料过了三天，费聚来报，说事情有变，驴牌寨主帅想要把队伍拉到别的地方去。朱元璋立即带着三百名士兵赶去，费尽唇舌，但主帅仍是犹豫不决，朱元璋便定下一计，让人请主帅议事，趁机将他挟持而去，离开营寨十余里后，又派人到寨中传话，说主帅已经选好了新的营地，让部众移营，部众信以为真，便烧了营寨跟着去了，主帅见大势已去，没有办法，只得归降于他。紧接着，朱元璋又带兵去豁鼻山，招降了以秦把头为首的一支八百人的武装队伍。
朱元璋对收编而来的队伍进行了集中训练，在较短时间内，他们的战斗力就有了明显的提高。不久，他就率领这支部队攻克了屯居横涧山的缪大亨武装集团，缪大亨投降，朱元璋一下子就得到了当地兵民七万多人，从中选出二万精壮，组成一支大部队。朱元璋的声威迅速上升，其他一些结寨自保的地方武装队伍相继来降，使得朱元璋的队伍日益壮大，具备了争雄天下的初步基础。在这些归附者中，最受朱元璋器重的是冯国用、冯国胜兄弟。他们自小读书，精通兵法，来归后，朱元璋向他们征询计策，冯国用说：“金陵（今南京）龙蟠虎踞，自古帝王多有建都于此者。应当先攻取金陵，以为根本，然后四出征伐，倡仁义，收人心，不贪图财宝美女，天下是不难平定的。”朱元璋闻听此言，不由得喜上眉梢，他的心中开始有了一个平定天下的初步纲领。
对归附而来的队伍，朱元璋总是重新组编，命人率领进行严格的军事训练。这些人以前都懒散惯了，刚开始时，总是抱怨，朱元璋训诫说：“你们人多势众，却轻易地就归我所有，这是为什么？就是因为将领缺乏纪律，士兵缺乏训练。现在训练你们，是要你们都懂得纪律。大家要共同努力，以建立功业！”经过一段时间的严格训练，这些原来的杂牌军队成了一支纪律严明、勇敢善战的部队。山小难容猛虎，池浅难容蛟龙，朱元璋建立起一支富有战斗力的队伍后，就把目光投向远方，他要率军离开濠州，去开辟新的天地。