任何想有作为的人，都必须顺应时代的发展，听从时代的召唤。如果墨守成规，拘泥于旧的体制束缚，就难以成功。曾国藩在京时以理学家自居，理学讲孝道。按礼制的规定，曾国藩无论时局发生什么变化，他都应该在家乡为母亲守丧3年。但儒家礼法也有变通的办法，即当确实需要时，为官者可以不必等到守丧期满就去任职，这被称为“夺情”。后世这种“移孝作忠”的事虽屡见不鲜，但当事人仍要遭到士人的白眼。明代宰相张居正的“夺情”，曾引起朝政的大波澜，以至于张居正成为言官们攻讦的对象。清代康熙时期，大学士李光地也有一次“夺情”，时人也争相攻击他，并说这是李光地的平生三大耻之一。因此，当曾国藩最初接到湖南巡抚张亮基请他出山的邀请时，他委婉坚拒。当咸丰帝的朱谕诏示他时，他也三缄其口。为什么？这就是礼制的限制。
恰巧在这一天，郭嵩焘赶到湘乡为曾母吊唁。县令朱孙诒知郭与曾的关系非常，故不敢怠慢，立即传官轿送郭嵩焘往曾国藩家。120里的路，赶到曾家时已是深夜。两人秉烛畅叙，当谈及时事时，曾国藩说明自己要守制，不能出来主持团练。郭嵩焘则“力止国藩曰：‘公素具澄清之抱，今不乘时自效，如君王何？且墨至从戎，古制也。’”郭嵩焘素知曾国藩野心勃勃，以整治封建秩序为己任，现在面临“乱世出英雄”的机会，你为什么不大大施展抱负，尽忠皇帝呢？郭又拿出“古已有之”的例子来说服曾国藩，情真意切，不可言表，给标榜“忠孝”的曾国藩一个很好的台阶下，但曾国藩为了表示尽孝的“决心”，仍表示不同意。
郭嵩焘又反复与曾国藩的父亲谈“保卫家乡”的大道理，曾父认为讲得对，便把曾国藩叫到面前教训了一番。曾国藩这才应允。但多日不见起行。郭嵩焘又同他的弟弟郭昆焘一同前往曾家劝说，但曾国藩却以郭氏兄弟入幕参赞其事为先决条件，郭嵩焘只好答应。
此后四年，郭嵩焘大部分时间都在曾国藩幕府中度过，成为湘军初创、曾国藩“大业”初起时的主要人物之一。十二月二十一日，曾国藩抵长沙，开始着手筹练湘军。
郭嵩焘后来叙述此事时，说曾国藩成就“中兴”之业，他劝其出山的功劳最大，当时曾国藩接到上谕后，具疏力辞，正准备派专使赴省城送奏折。“束装将行矣”的时刻，他赶到了曾家，极力劝说，结果曾“即时收回所具疏，定计赴省”，这大体上与事实相符，但时间上显然有出入。如前所述，曾国藩于十二月十三日接到上谕后就写了这个奏折，已经抄好，但没有发出。两天之后接到武昌失守的消息，从情理上推论，只能使他更倾向赶赴长沙，决不会深更半夜的打发人去省城送这份奏折。郭嵩焘所谓送信人“束装将行矣”的场面，可能是事过多年记忆上的错误，更可能是郭嵩焘为了渲染自己劝说曾国藩出山的“功劳”而有意“记错”的。除了“忠”“孝”不能两全的矛盾外，曾国藩还是一个十分务实的人，他深知自己讲理学、佐朝政尚可称职，而对于兵法阵战、练兵打仗可以说是个外行。而且，打仗是人命关天的事，与写写文章不同。尤其是现在朝廷让地方乡绅自筹饷项，而自己平素所交之人，大多贫寒之家，拿不出银子，就招不到兵、勇。因此，当乡间名流好友及巡抚大员一再请他出山时，他最初均表拒绝。
咸丰二年十一月，他写信给刘蓉，解释迟迟不赴团练局的原因：国藩之所以迟迟赴局暗诸君子之后者，盖自七月二十五闻讣，至十一月初五始克释缟素而更墨至。若遽趋县城，既不可以缟素而入公门，又岂可竟更墨至！显干大戾。且局中要务，不外训练武艺，催收捐项二端。国藩于用兵行军之道，本不素讲，而平时训练，所谓拳经棍法不尚花法者，尤懵然如菽麦之不辨。而侧闻石樵先生之胆勇，及左右与罗山、赵、康、王、易诸君子之讲求切实，国藩寸衷自问，实不能及十分之二三。至于催促捐项，无论斩焉在疚，不可遽登人门，即使冒尔从事，而国藩少年故交，多非殷实之家，其稍有资力者，大抵闻名而不识面，一旦往而劝捐，人将有敬而远之之意，盖亦无当于事理。是以再四踌躇，迟迟未出。
曾国藩办事讲究条理，往往从最根本处讲求。让一个身带墨孝的人出入乡绅富户之家，是对先人不孝，对他人不恭，况且，他的“人力资源”对于筹集饷项可以说没有大补。但是曾国藩又是一个有责任感的人。他对刘蓉说：“国藩居湘乡之土，为湘乡之民，义不可不同心合力保护桑梓，拟于百日之后前赴县门，以明同舟共济之义。”随即提出自己的意见：“鄙意以为壮勇贵精而不贵多，设局宜合而不宜分”，认为“但得敢死之士四百人，则固可以一战。”
十二月十五日，曾国藩又给他的内兄欧阳秉铨写去一信，请他前往京师，帮助将家眷接回湘乡，他还说自己在家服丧仅满4月，家中诸事尚未料理，此时若立即出山办理官事，则不孝之罪滋大。且所办之事亦难寻头绪，若其认真督办，必须遍走各县，号召绅耆，劝其捐资集事，恐为益仅十之二，而扰累者十之八；若不甚认真，不过安坐省城，使军需局内多一项供应，各官多一处应酬而已。再四思维，实无裨于国事，是以具折陈情，恳乞终制。为了取得昔日好友对他内心苦楚的理解，他还将折稿寄到京师，请内兄转交。相好中如袁、毛、黎、黄、王、袁、庞诸君，尽可令其一阅。此外如邵蕙西、李少荃、王雁汀、吕鹤田有欲阅者，亦可一阅。盖欲使知交中谅我寸心，不必登诸荐牍，令我出而办事，陷于不孝也。
由此可见，曾国藩对出山办团练的困难考虑得十分细致、具体。这也可以看出他是一个务实的人。
6
脱胎换骨，打造湘军
为防止士兵离营，甚至有意拖欠军饷，或扣下大部分的银存入公所，等士卒遣散或假归时进行核算，酌发部分现银以充川资，其余部分由粮台发一印票，至湖南后路粮台付清。
第一是千磨百折。曾国藩多次说，造物主对大功大名是十分吝惜的，“必千磨百折，艰难拂乱而后予之”。他饱尝的人间苦难，比神怪人物唐僧取经路上的八十一难还要多。他自己说：“平生受挫受辱之时多矣，无一次不打脱牙和血吞。”一向傲视群伦、挟“帝王之术”而又以霸才自诩的王闿运在观览曾国藩的奏疏时，也感其“悲苦，令人泣下”，当读到“闻春风之怒号，则寸心欲碎；见贼船之上驶，则绕屋彷徨”时，发出“《出师表》无此沉痛”的慨叹。
曾国藩的磨难既是个人的，又是时代的。因为他走的不是爱新觉罗家族给他铺就的路。他以“在籍侍郎”的身份办团练，但他没有像其他团练大臣那样，他要“赤地立军”。这是他的成功所在，也是他历经磨折的由来。薛福成作为他的四大弟子之一，道出了这番道理。他说当时团练大臣虽有几十位之多，但或者有名无实，或者以身殉国，或者闻敌即逃，只有曾国藩走出了团练的框框，“是文正以团练始，不以团练终，且幸其改图之速，所以能成殄寇之奇功，扩勇营之规制也”他还说曾国藩虽以团练发轫，“然惟早变其实，并变其名，所以能有成功，否则前事可睹矣”（《叙团练大臣》）。由于曾国藩打造了湘军这条船，而且湘军出征不久就把武汉打了下来。他的突出表现让倚食国家饷禄的正规部队汗颜多多。
但湘军这条船实在造得太大、太显眼，磨折也就接连不断。直到40多岁时，他还说自己是“命薄福浅之人”，不足以当大任。尤其是每当关键时刻，总有大的突发事情降临到他的身上，为此他说“事机不顺，似天在磨折”，这或许是他后来总结的成大功大名“人天各占一半”的由来。
第二是厚饷养兵。曾国藩深知，打仗是要死人的，尤其是战时状态。因此他在组建湘军时，采取厚饷养兵，用其死力的办法。在确定一名勇丁的月饷时，他找来几位勇丁，对他们在家务农一年的收入情况进行了调查，有人回答自己一年的收入大约有十多两银子。
他又对现行的绿营饷章进行了认真的计算，尽管绿营兵的月饷不多，但加上打仗时所发的行粮，每月也达到白银4两多。他想，当兵的应该比种田的收入多三四倍，这样算来，每月就得发给他们白银4两上下。这个数字也正好略低于绿营月饷与行粮的总和，一旦朝廷询问起来也有个说法，不至于授人以口实。他拿定了主意，湘军正勇的月饷被定为白银四两二钱。
清朝的绿营兵平时每月饷银马兵二两，战兵一两五钱，守兵一两，清朝初年尚可维持生活，但200年一贯制，绿营兵饷连养家糊口都成问题，哪会有战斗力！江忠源等人募勇时，规定每人每月饷银四两五钱，已是绿营兵的近3倍。湘军比此还要高。不过，曾国藩讲究“技巧”，将绿营的行粮也加在一起统算，表面上湘军饷银不高多少，实际上绿营兵很难发足饷，往往发到二三成。至于行粮，就不能保证了。换言之，他算绿营兵时用的是“虚数”，他发给湘军的是实数。可见曾国藩还是动了相当心思的。
曾国藩为了使士兵卖命，还给每营增加长夫120人以减轻士兵的劳役负担，这对提高士兵的战斗力很有益处。原来军队中兵、役混杂的情况至此大为改观，作战部队与后勤部队明显分开，军队向近代化转变。将弁的标准当然更高。规定陆师营官每月薪水银五十两，办公银一百五十两，夫价银六十两，共计二百六十两，凡帮办、书记、医生、工匠薪水及置办旗帜、号补各费用统统包括在内。其他各弁兵每月饷银为哨官九两，哨长六两，什长四两八钱，亲兵护勇四两五钱，伙勇三两三钱，长夫三两。水师兵饷，营官与陆师营官同，头篙、舵工与哨长同，舱长与什长同，唯哨官薪水为陆师两倍，每月银十八两。总计湘军饷用，大约平均每人每月需银六两。如果统计其各项收入，营官每月为二百六十两，分统、统领带兵三千以上者三百九十两，五千以上者五百二十两，万人以上者六百五十两。薪饷的优厚刺激了湘军的发展，其兵源也就不成问题，曾国藩用的正是“重赏之下，必有勇夫”之策。
于是，“将士愈饶乐，争求从军”。这对于调动湖南农民尤其是绅士、文生的从军积极性，有很大作用，但为日后筹饷带来困难。为解决这个矛盾，湘军采取发半饷的办法，一般只发五成饷，欠饷数月以至半年，成为普遍现象，久而久之，形成风气，士兵亦习以为常。
为防止士兵离营，甚至有意拖欠军饷，或扣下大部分的银存入公所，等士卒遣散或假归时进行核算，酌发部分现银以充川资，其余部分由粮台发一印票，至湖南后路粮台付清。若士兵擅自离营，欠饷、存饷即被没收，不再发给。这样，士兵苦无川资，又恋于饷银，也就不会轻易离营了。同时，士兵一旦假归或遣散回家，就能领到一大笔银两，对未曾应募入伍的人也可以产生巨大的诱惑力。这样，曾国藩就达到了一箭三雕的目的：既减轻了筹饷的困难，又防止了士兵的逃跑，还能引诱大批农民和书生踊跃应募。
7
万人离心，不如百分同力
曾国藩认为，对付集中而强大的太平军，必须有一支强悍敢战的军队。有了它，太平军返回湖南，可以据城抵抗，守卫桑梓；太平军不来湖南，则可以出省作战，主动进攻。而这支军队的来源，就是自己募勇训练。
曾国藩打造的湘军中，第一个精神即是万人同心。这是鉴于国家正规军的腐败至极而“改弦更张”的。
本来，清朝的武装力量即国家的“经制额兵”，主要由八旗兵和绿营兵两种构成。在编制和待遇等方面，二者有很大不同。八旗兵在许多方面优越于绿营兵。但早在康熙平定三藩之乱时，八旗兵的衰落已是不争之实。因此，这场长达八年的战争，最后主要是通过绿营兵平定的。三藩平定后，八旗对绿营的依赖日益严重。至乾隆时，连皇帝也说，“打起仗来，八旗不过随众行走，还不如绿营奋勇，深为可恨”。这表明，八旗的主力地位已逐渐被绿营取代。
但由于绿营兵平时担负繁重的地方杂役，战时又为八旗打先锋，当后勤，而各种待遇又远不如八旗，处处受压制，加之装备落后，兵将不亲，因此自嘉庆初期五省白莲教起义以来，绿营也开始走向衰落。
除正规军外，清朝还有乡兵。这种兵始自雍、乾，但当时“旋募旋散，初非经制之师”，就是说，它只是权宜之计，是对正规军的一种补充与应急。但由于乡兵在镇压白莲教起义中立有战功，更主要的是由于八旗、绿营的衰落，乡勇的地位也就日益重要。