文宗下诏说：“曾国藩原本为母亲守孝返回原籍，奉朕的旨意帮办团练。当叛贼大肆骚扰湖北、安徽的时候，能立即统领湖南的水师上阵杀敌。几年来，战功显赫，忠心耿耿，朝廷上下都清清楚楚。曾父麟书因为听说水师偶尔受挫，马上让儿子曾国华率领兵勇前来增援，不惧路途遥远，果真是满门忠义。朕内心深为赞许。现在曾侍郎国藩三个月的假期即将结束，又请求守满三年丧期，并援引去年贾桢奏请守满三年丧期获得允许的例子。朕看他言词恳切，难得他身为人子的一片孝心。只是现在江西战事还没有停息，曾侍郎所率领的楚军向来听从他的指挥，而当前剿贼任务紧急，因此假满后应当立即回营，报效国家。曾国藩身负统率大军的重任，不是贾桢所能相比的。命曾国藩依然遵照前面旨意，假满后立即前往江西督办军务，并代理兵部侍郎，以便于统率军队。等到九江收复，长江太平，朕必定会再赏给假期，让他回家乡去办理丧事，使他忠孝能得两全，不留遗憾。曾侍郎殚精竭虑辅佐君主，就是能够继承父亲教给他忠心报国的赤诚，应当得到天下后世所有人的体谅。”
曾国藩再次上奏说，江西各军营中跟往常一样安定，不必他亲自前去安抚驾驭，并竭力陈述他才能不足，不足以救国济民，心中惶恐不安。先秉承皇上旨意免去兵部侍郎的职务，暂时在家守孝，江西战事一旦紧急，便立即前往军营，领兵作战。
咸丰八年（1858）五月，奉命办理浙江军务，率领部队救援福建。福建太平军分路进犯江西，曾国藩派李元度在广丰、玉山两地将其击败，张运兰收复安仁。这时曾国藩驻扎在建昌，东、南、北三面都是太平军。曾国藩分析，东路连城太平军的势力已经衰弱，福建的战况不必担心；北路的景德镇才是整个战局的关键，比南路的信丰更为重要。于是派张运兰进攻景德镇，萧启江追剿信丰的太平军。咸丰九年（1859），萧启江在南康打败太平军，攻克了新城墟池江的太平军老巢；接着收复南安，解除了信丰的包围。太平军逃到湖南，眼看就要从广东、贵州进入四川境内。曾国藩立即命令萧启江紧急奔赴吉安，接应湖南。张运兰收复了景德镇、浮梁县，江西的太平军被清除干净，残部逃往安徽南部。曾国藩奉命防守四川，走到阳逻时，又接到文宗的圣谕，认为安徽省的局势日益紧张，决定让曾国藩率军从湖北分路围剿安徽的太平军。
曾国藩返回巴河驻守，整理器械粮食，然后上奏说：“自从洪秀全、杨秀清发生内讧，镇江收复，南京匪首的气焰早已衰弱。只剩下陈玉成在长江以北横行无阻，勾结捻匪，并在庐州、浦口、三河等地方多次打败我军水师，因而使安徽北部的战局每况愈下，江南贼军的粮饷一直源源不断。要想消灭各路贼军，必须先攻下南京。要想攻下南京，必须先在滁、和两州驻扎重兵，然后才能摧毁南京的屏障，切断芜湖的粮道。要想在滁、和两州驻兵，必须先围困安庆，攻破陈玉成的老巢，同时攻打庐州，因为这是陈玉成必须救援的地方。进兵必须分成四路。南路顺长江而下，一队从宿松、石牌攻取安庆，一队从太湖、潜山攻取桐城。北路沿山路前进，一队从英山、霍山攻打舒城，一队从商城、六安攻取庐州。南路军驻扎石牌，与杨岳斌在黄石矶的军队相呼应；北路军到达六安，与寿州的军队相呼应。”曾国藩请求自己亲自攻取安庆，让多隆阿、鲍超攻取桐城，胡林翼攻取舒城，李续宜攻取庐州。奏折呈上后，文宗批准了。
咸丰十年（1860）二月，太平军首领陈玉成进犯太湖，被曾国藩分兵击败。四月，朝廷赏曾国藩兵部尚书衔，代理两江总督。六月，正式任命为两江总督，以钦差大臣的身份督办江南军务。七月，下令将安徽南部的军务全归曾国藩督办。咸丰十一年（1861），曾国藩进驻祁门，促令杨岳斌、彭玉麟、曾国荃、鲍超等将领率领水军、陆军夹击太平军，实行逐层扫荡的计划。先后收复了黟县、都昌、彭泽、东流、建德、休宁、徽州、义宁。驻守安庆的精悍太平军约有几万人，久攻不下。曾国荃、多隆阿等将安庆包围起来。陈玉成前来救援，诸路官兵将其击退，然后攻下安庆城，城内的太平军没能逃走一个。接下来又收复了池州、铅山、无为、铜陵及泥汊、神塘河、运漕、东关各处要隘。朝廷赏曾国藩太子少保衔，命他督办江苏、安徽、江西、浙江四省军务，巡抚、提督、总兵及以下的官员都归他节制。
曾国藩极力推辞，穆宗（同治帝）不允许，下旨说：“先前命令曾国藩以钦差大臣的身份节制江浙等省的巡抚、提督、总兵，统一处理事务的职权。曾国藩上奏说自从他担任两江总督以来，对安徽没有功劳，对江苏有很多歉疚，并陈述用兵的关键，认为要注重人和，不崇尚权势；要注重实际，不追求虚名，恳请朝廷收回成命。朕内心对此很是赞许，现仍令曾国藩节制四省军务，以求获得实效。曾国藩再次上奏陈述自己的心意，说现在数路军队出征，领兵的将帅很多，如果将帅的权力太大，恐怕会开启后世军队争夺权势的风气，同时也需预防以后出现外重内轻的局面。从这些话中，足以看出他谦让恭顺、深谋远虑，有古代大臣的风范。在曾国藩来说，他有心远离权势，应当有这样的想法。但在国家来说，厚待依赖重臣，应该授予他大权，以前也有这样的先例。曾国藩通晓军事，忠心为国，朝廷内外尽人皆知，当前江浙军务紧急，百姓困苦，我两宫皇太后为国家安定终日操劳，每每想到江南的战事就忧虑不安，若不是曾国藩满腹忠诚，朝廷怎么可能轻易赋予他大权？因此，这四省所有的官员自巡抚、提督、总兵以下仍然归他节制。曾国藩务必以军事为重，全力攻剿叛匪，拯救万民于水火之中。不要再推辞。”
之前太平军围困杭州，曾国藩连续收到救援浙江的命令，发咨文令太常寺卿左宗棠率领军队前往浙江，下令张运兰、孙昌国等水陆各营军队都归左宗棠调度，以增强他的兵力，并拔给他钱粮税金以清还他所部长期以来的欠款。并上奏称左宗棠以前在湖南巡抚骆秉章的幕府中帮助其谋划军务，兼顾过好几个省的军事，他的才能确实可以独当一面。恳请皇上下旨，让左宗棠督办浙江全省的军务。
同治帝认为浙江巡抚王有龄和江苏巡抚薛焕都不能胜任其职位，命曾国藩详细考察之后备文上奏，并迅速保举胜任的人员，等待旨意简放。曾国藩上奏说：“江苏、浙江两省叛贼肆意横行，境内的胜败安危都取决于巡抚一人。王有龄长久以来被外来军队所挟制，很难有所作为，要选择接任的人，自然是左宗棠最适合。只是当前杭州被贼兵围困，必须让王有龄在城内坚守，左宗棠从城外救援。等到形势稍稍安定，才可以变动他们的职务。至于江苏巡抚，目前确实没有手握重兵的人能胜任这一职位。现在考察臣营中有统领淮扬水师的福建延邵道补缺道员李鸿章，正直自律，才大心细，如果承蒙圣上恩典，提拔李鸿章暂代江苏巡抚，臣再拨给他一些陆军，便可让他迅速奔赴长江下游，保护那里的平安。”
最终杭州失守，曾国藩再次上奏陈述补救措施：一、令各部军队坚守衢州，与江西广信、皖南徽州形成犄角之势，先占据险要的地势，堵住贼军逆流上犯的路径。左宗棠暂时在徽州、衢州、广信这三府之间选择重要的地点驻扎，然后根据形势调动军队。总之，必须先稳固江西、皖南的边防，保护好没有被贼兵侵占的地区，再谋划剿贼的方略。二、请朝廷在浙江布政使和按察使的职位中，为广西按察使蒋益澧安排一个职位，以便让他带领所统领的五六千兵士赶赴浙江，跟随左宗棠一起筹办防务与进取事宜，这样左宗棠便有了一个得力的助手。三、浙江省内的军队，依靠宁波、绍兴一带作为粮饷的源地。但现在浙江全省饱受摧残，实在无处筹集粮饷。恳请皇上下令广东海关、福建海关按月协助拨发银两，交给左宗棠为军饷。奏折呈上，同治帝一一批准了他的请求。
同治元年（1862）正月，朝廷任命曾国藩为两江总督、协办大学士。曾国藩上奏称：“自去年秋天以来，臣连续蒙受浩荡皇恩，臣弟曾国荃又被任命为浙江按察使，曾氏一门在短短数月之内受到皇上特殊恩宠，并且与日俱增。臣在感激的同时，也深深感到惶恐。恳请皇上考虑到战事尚未安定，体谅臣的苦衷，在南京没有攻下之前，不要再加恩于曾家。另外，这之前臣多次得到圣旨，令我保举江苏、安徽两省巡抚，又向臣询问福建总督、巡抚的人选，令臣保举国家的大臣，并将保举的人选列出来，等待任命。封疆大吏的任免，是朝廷的大权，臣愚笨浅陋，怎么敢干预。以后有合适的人才，臣会随时上奏，希望能够满足圣上广求人才的心意。但是，广泛地推荐人才，作为朝廷备选是可以的；明确指出谁适合某个职位，直接请求朝廷任命却是绝对不可以的。现在国家多灾多难，封疆大吏既然已有征伐的权力，就不应再有任免官员的权力。这种风气一旦开了头，后来的弊病就会非常严重，不能不提前预防。”
不久，曾国藩派部将击退徽州、荻港的太平军，收复了青阳、太平、泾县、石埭。曾国荃会同水师，收复了巢县、含山、和州，以及铜陵闸、雍家镇、裕溪口、西梁山四个关隘。曾国藩的弟弟曾贞干（曾国葆）收复了繁昌、南陵，在三山、鲁港打败太平军。
同治帝认为曾国藩的奏折言词恳切、感情真挚，一片忠诚之心，于是不再加封曾国荃、曾贞干等人。曾国藩驻扎安庆督战，上奏朝廷请求仍把安徽省的省会建于安庆，设立长江水师提督及以下各官，向各级将领传授作战的办法，从而次第收复安徽南北府县的各个城市。曾国荃率领军队围攻金陵。苏浙太平军的首领李秀成等分路前来救援，经过大小几十场战斗，击退李秀成等。同治二年（1863）五月，曾国荃收复江浦、浦口，攻克九洑洲，长江上的太平军被清除干净。因为淮南的运输通道已经畅通，曾国藩筹划恢复盐务，改为民运。上奏朝廷陈述广开销路、降低成本、保障价格、杜绝私盐的办法。同治三年（1864）正月，官军攻下钟山，将南京层层包围。六月，收复南京。
同治帝下诏说：“曾国藩自咸丰四年在湖南最先发起办理团练以来，创建水师，与塔齐布、罗泽南等屡立战功，保全了湖南各郡县，收复了武汉等城池，肃清了江西省内的叛贼。东征以来，曾国藩从宿松攻克潜山、太湖，进驻祁门，接连收复了徽州的各郡县，最终攻下省城安庆，作为剿贼的大本营。他分派水陆两军将士，谋划收复了长江下游的州郡，最终大功告成，诛灭叛贼首领，这全由该大臣的筹划周密，智勇兼备，知人善任，调遣得当。因此，对曾国藩加以赏赐，加封太子太保衔，赐封一等侯，世袭罔替，并赏戴双眼花翎。浙江巡抚曾国荃，加封太子少保衔，赐封一等伯，并赏戴双眼花翎。其余将士各按功劳加以封赏。”
当时捻匪已经猖獗很长时间，僧格林沁在曹州战死，贼军的气焰日益嚣张。同治四年（1865）四月，朝廷命令曾国藩赶赴山东一带剿捻。山东、河南、直隶三省的八旗军队、绿营及地方上的文武官员，均归曾国藩节制。曾国藩在赴徐州督师前，招募新军，扩充并加练骑兵。传令调集刘松山、刘铭传、周盛波、潘鼎新带领各路军队一起剿贼。五月，捻军流窜到雉河集，曾国藩驻守临淮关，派兵将捻军击退。曾国藩先后上奏称，捻军已经成为流寇，行踪不定，应该在各地操练固定的军队，这样才能制伏到处流窜的贼兵。我从安徽临淮进军，将来安徽就以临淮为大本营，再加上江苏的徐州、山东的济宁、河南的周家口，这四路各驻重兵作为军事重镇。一省的军情告急，其他三省前往支援。援军的粮食医药由受援的地方供给。这样，或许能让官军往来迅速，相互呼应。
当时，捻军首领张总愚、任柱、牛落红和太平军残部首领赖汶光纠集十多万军队，时分时合，变化不定。八月，曾国藩派刘铭传在颖州击败捻军，捻军往东向曹州逃窜。曾国藩命潘鼎新死守运河，再派军队紧急赶赴山东帮助剿贼。捻军无法渡过运河，只能向南逃往徐州，占据丰县、沛县、铜山境内。九月，曾国藩派李昭庆、潘鼎新击败占据徐州的捻军。徐州丰县的捻军又逃窜到山东。十月，周盛波、刘铭传击败山东捻军。宁陵、扶沟的捻军流窜到湖北黄阪，并将其攻陷。同治五年（1866）正月，曾国藩派刘铭传大败黄阪捻军，收复黄阪城。捻军头领任柱逃回沈丘，想要夺回蒙城、亳州老巢。曾国藩派刘铭传、周盛波前往追剿。捻军首领张总愚率部分路进入郓城。三月，刘铭传、张树珊在颍州、周口击败张总愚部。捻军各部联合占据了濮阳、范县、郓城、巨野之间的地区，曾国藩派诸路军队合力将他们击败。张总愚逃往单县，任柱逃往灵璧。曾国藩驻守徐州，修理疏通运河，以加固东路的防守。同治五年（1866）五月，曾国藩派遣诸领在洋河、王家林打败张总愚部，在永城、徐州打败任柱部。当时，捻军从二月开始往北逃窜，一心想渡过运河，在曹州、徐州、淮河、泗水一带徘徊了两个多月，一直未能得逞。于是张总愚部进入河南，任柱部进入安徽。曾国藩派周盛波在陈州大败牛落红部，在乌江河打败任柱、赖汶光部。张树珊在周口打败张总愚部。牛落红、张总愚渡过沙河向南逃窜，任柱、赖汶光也逃窜渡过贾鲁河。曾国藩认为之前防守运河已经初见成效，可仿照这种方法在沙河设防，使得捻军骑兵受到阻拦，战况或许逐渐明朗。经过商讨，曾国藩决定从周家口向下至槐店死守住沙河，往上至朱仙镇死守住贾鲁河。他上奏朝廷说：“河长七百多里，因地段太长，不敢说防务已经完成，百无一失。但我必定始终坚持这一决定，不因为形势艰难而改变主意，不因为流言蜚短而中途变更，只希望这样对战况有利。自古以来剿灭流寇就没有好办法，只有注意防范，使他们不能四处流窜，不失为得一寸是一寸的方法。等河防完成，可以让河防的士兵和野战的士兵轮流换防，从而使他们保持充沛的战斗力。”六月，曾国藩派遣刘松山、张诗日在上蔡、西华大破捻军。捻军从河南巡抚派军驻防的河段突破，向东逃窜，河防失败。七月，曾国藩派刘松山、宋庆在南阳、新野大破捻军。九月，刘铭传、潘鼎新在郓城击败捻军，运河防务幸而得以安然无恙。曾国藩向朝廷陈述自己的病情。七月，同治帝命曾国藩仍回到两江总督任上，让李鸿章代他办理剿捻事务。