此时，我东、西两路部队已先越过汝河，逼近淮河，中路部队也有一个纵队先敌抢过汝河，继续南进，留在汝河北岸的，只有中原局机关、野战军指挥部和1个纵队的兵力。而紧跟在我背后的3个师的敌人，距离我们只有五六十里，不用一天就可以赶到。前有阻师，后有追兵，形势真是千钧一发，万分险恶。我们能否在短短几个小时内抢渡汝河，关系到整个跃进行动的成败，从而也关系到整个战局。战略跃进的光荣使命鼓舞着我们，此刻，面前即使横着刀上火海，我们也必须打过去！黄昏后，我和邓小平同志赶到了汝河北岸先头部队的指挥所，命令部队以坚决进攻的手段对付堵击的敌人。说明“狭路相逢勇者胜”！只要我们坚决、勇敢、不怕牺牲，就一定能够打过去。
强渡汝河的战斗开始了。纵队和旅的干部亲自下到团、营、连指挥作战。战士们英勇顽强地同数倍于自己的敌人拼杀。抢夺桥头堡的敌人被我击退后，我后续部队陆续渡河前进。各部队冒着敌机的低空轰炸、扫射和两边敌人近距离的侧射火力，边走边打，勇往直前，终于在大小雷岗和东西王庄一带杀开了一条血路，掩护着中原局和野战军指挥部突破敌人层层拦阻，胜利地闯过了千里跃进途中的这个险关。
就这样，我军以锐不可挡之势，粉碎了敌人数十万大军的前堵后追，先后跨越了陇海路、涡河、黄泛区、沙河、洪河、汝河、淮河等重重障碍，经过二十多天的艰苦跋涉和激烈战斗，终于在八月末先后进入大别山区。
这期间，华东野战军主力，在鲁西南地区辗转作战，机动歼敌，拖住了大量敌军，有力地支援了我们向大别山的进军。我陈赓兵团在晋南强渡黄河，腰斩陇海，东逼郑、洛，西叩潼关，接着又依托伏牛山在豫西展开，迫使陕北战场的敌人南撤，吸引尾追我野战军主力的敌人，抽调3个师的兵力西顾。陕北、山东的我军，也已粉碎了敌人的重点进攻，并转入了战略反攻。
我军进入大别山后，以邓小平同志为首的中原局，立即号召部队和地方干部坚决地义无反顾地为重建大别山革命根据地而斗争。重建这块根据地最根本的问题，就是要坚决执行毛主席在《解放战争第二年的战略方针》中所指示的：“到国民党区域作战争取胜利的关键：第一是在善于捕捉战机，勇敢坚决，多打胜仗；第二是在坚决执行争取群众的政策，使广大群众获得利益，站在我军方面。只要这两点做到了，我们就胜利了。”
在重建这块根据地的过程中，我们同敌人展开了反复的极端激烈、艰苦的争夺战。概括起来，可说是经过了3个回合的斗争。
第一个回合：迅速实施战略展开。
我军进入大别山初期，敌主力尚被甩在淮河以北，大别山区极为空虚。为了迅速立足生根，我们立即按照中原局的计划，分遣各部队向预定地区开进。以3个旅在皖西展开，两个旅在鄂东展开，9个旅摆在大别山北麓的商城、罗山地区，一面牵制敌人，一面就地展开。同时，将全区划分为豫东南、鄂皖、皖西、鄂东等4个工作地区，组成党的工作委员会，分别由各纵队抽调部队和干部，在统一领导下，开展地方工作。估计到新区斗争的复杂性和艰苦性，我们坚决精简机关，减轻装备，隐藏了一批辎重，减去了许多牲口，并训练部队迅速熟悉南方作战条件和生活习惯，以适应新的斗争环境。
就在我们实施战略展开的过程中，尾追我们的23个旅的敌人，也先后压过淮河，进入大别山区。敌人的企图是：以多数兵力摆在平汉线及其东侧，阻我向桐柏山、大洪山地区发展；以一部兵力实行分散“清剿”，摧毁我地方政权，使我失去立足之地；另以白崇禧亲自指挥的桂系两个师实行机动，寻找我主力作战，把我军赶出大别山。
我军深入到敌人的战略纵深地带，在无后方依托的条件下实施战略展开，创建新的根据地，这在历史上是空前的创举。要达到这一目的，就必须遵循毛主席“分兵以发动群众，集中以应付敌人”的原则，正确地解决兵力的集结和分遣的问题。部队既要打胜仗，又要占领地方。要打仗，就不能不保持相当的机动兵力；而要占领地方，又势必分散一部分兵力，以至削弱主力。打仗和占领地方两者虽有矛盾，但是又是统一的。因为只有多打胜仗，多歼灭敌人的有生力量，才能鼓舞士气，振奋人心，有利于占领地方；另一方面，只有多占领地方，发动和组织群众，才便于分散敌人，消灭敌人。
遵循着上述原则，在实施展开的同时，我们集中一部兵力，于9月上旬在商城以北的河凤集地区打击了战斗力较弱而又孤立的敌滇军1个师。中旬，在商城以西的中铺地区歼敌1个团。下旬又在光山附近打击了东援之敌一个师。经过这3次作战，我们把敌人的机动兵力全部调到大别山以北地区，保障了我军在大别山南部的鄂东、皖西胜利展开。但是这3次作战，打得都不够理想，没有全歼敌人。这主要是由于我们刚刚由内线转到外线，由北方转到南方，缺乏无后方作战和山地、水田地带作战的经验。饮食不习惯，穿不惯草鞋，语言不通，地形不熟等等，都给部队造成了不少困难。虽然我们在进入大别山之初，即已指示部队抓紧形势任务教育，指出创建大别山根据地必然会遭遇到暂时的困难，强调发扬艰苦奋斗的作风。但是，自强渡黄河以来，部队一直处在连续的行军作战过程中，未能休整和进一步进行政治思想动员，所以有些同志对重建大别山根据地的战略意义和艰苦性仍然认识不够。再加上群众未发动，政权未建立，粮食要自己筹，伤员要自己抬，打完仗也没有可以休整的时间和地方。因此，有些部队一时呈现出疲惫和纪律松弛的现象。有些干部，打起仗来顾虑重重，错过了一些歼敌的机会。为了及时解决部队的思想问题，我们于9月下旬在光山的王大湾召开了旅以上高级干部会议。小平同志严肃指出：越是在困难的时候，高级干部越要以身作则，鼓励部队坚决勇敢地歼灭敌人。我们既反对在条件不可能的时候轻率地去作战，更要反对在条件可能的时候不敢勇猛地去作战。小平同志强调部队必须认真执行三大纪律八项注意。指出毛主席在井冈山建军之初规定的三大纪律八项注意，决不是什么简单的决定，而是党的路线和政策的体现，能否坚决执行，关系到我们在大别山能否站得住脚，一定要牢固地树立起以大别山为家的思想，坚决克服怕打硬仗、纪律松弛等等右倾思想情绪。这次会议对后来的胜利起了重要的作用。
大别山的人民群众有着优良的革命传统。但是，由于土地革命战争和抗日战争时期我军主力三次撤出这一地区后，群众受过反动派极端残酷的镇压。再加上这次我军初到，当地的反动统治还未摧垮，保甲、特务势力仍在暗地里威胁和控制群众。因此，群众对我军究竟能否长期在这里站住脚，还有些怀疑，虽然心里很欢迎我们，但在表面上却不敢过分接近我们。为了尽快地解除群众的顾虑，迅速把群众发起起来，我们积极展开了宣传工作，向群众说明我军已经发展壮大，这次打回来，是在歼灭了敌人100多个旅以后的战略大进军，我们再不会走了，一定要和大别山人民同生死共患难，为重建大别山根据地而斗争。同时，号召部队发扬艰苦奋斗、自力更生、联系群众的作风，担负起打仗、作群众工作、筹集给养等三大任务。当时，指战员们都背前沉重的粮食、弹药行军，抬着山炮翻山越岭。又值雨季，身上常常湿透，不少人连草鞋也没有，不得不赤足行军。干部们都将自己骑的牲口，用来运粮食、驮伤员，并亲自参加抬送伤员。部队在疲劳的行军之后，还得自己推谷子、舂米、做饭、打草鞋、打马掌。由于给养不能及时得到补充，有的部队曾二十几天不见油盐，甚至只能以清水煮马肉充饥。尽管如此，大家还是严格遵守群众纪律。就这样，我们战胜了无后方作战的种种难以设想的困难，以自己的实际行动，影响了群众。群众逐渐活跃起来，与部队亲密合作，同心协力地担负起了重建大别山根据地的任务。
经过1个多月的艰苦斗争，到9月底为止，我们先后解放县城23座，歼灭了敌正规军6000余人，反动地方武装800余人，并且建立了17个县的民主政权，初步完成了在大别山地区的战略展开，取得了第一个回合的胜利。
第二个回合：积极寻机歼敌，进一步完成战略展开。
10月10日，中央发表了《中国人民解放军宣言》、《中国土地法大纲》，同时颁布了中国人民解放军口号和重行颁布了三大纪律八项注意。党通过《中国人民解放军宣言》提出了“打倒蒋介石，解放全中国”的口号，并且宣布了党的八项基本政策。据此，中原局发出了《放手发动群众创建大别山根据地》的指示，要求在全区普遍宣传党的土地法大纲，立即发动群众向封建地主恶霸展开斗争。并决定成立鄂豫、皖西两个区党委和军区。由每个纵队各抽3个团作军区基干武装；各抽调1000至200C名干部和老区翻身战士参加地方工作。由于区分了野战军和军区部队，野战军主要用于实施机动，歼灭敌人；军区部队则用于扩展地方，发动群众，繁殖游击战争，消灭地方反动武装。这就进一步解决了兵力的集结与分遣的问题。
当时，集结在大别山北部的敌军6个多师，妄图合击光山、新县地区的我军主力。我军则以一部分兵力在大别山北部牵制和迷惑敌人，主力即摆脱敌人的合击，乘虚出鄂东、皖西，寻机歼敌。