曾国藩，湖南湘乡人，出身地主家庭，从理学家唐鉴、倭仁“讲授义理学”，“名称重于京师”。所以他的仕途一直很顺利，1852年9月他母亲去世，他返回家乡服丧。太平天国金田起义不久，咸丰皇帝鉴于清常备武装八旗绿营相继腐败、不堪太平军一击，以及“从前川、陕、楚教匪滋事，保寨告成，然后殄灭”的历史经验，连发上谕，命令各地大力举办团练，1853年 1月，曾国藩在老家湘乡接到命令，让他协同湖南巡抚一起办理团练，镇压风起云涌的湖南农民起义。
曾国潜至长沙后为了既能编制一支尽忠于己的反动武装，又不引起清王朝的猜测怀疑，别出心裁地把本无二致的“团练”一词十分为二，谬加区别: “团即保甲之法，清查户口，不许容留匪人，一言尽之矣，练则制械选丁，请师选旗，为费较多。”他认为“练”需“择人而举”，“团”应“遍地兴办”。具体来说就是由自己“举练”，他人“办团”。起先，曾国藩与巡抚张亮基商定，各地乡团抓到会党群众捆送省城者，概交湖南首县善化县审理。
后来曾国落嫌其杀人不多、不快，便在团练大臣馆内设立审案局，自行审案杀人。因他嗜杀成癖，人们送其绰号，名日“曾剃头。”1854年2月，曾国藩练成湘军水陆两军:陆师十三营，六千余人，与清八旗绿营有差别的是，湘军让知识分子担任官职，招揽朴实强壮的农民去当士兵，所谓“选士人，领山农”。重要将领如罗泽南、彭玉麟、王鑫等，和曾国藩一样都是程朱理学的信徒，又是他的同乡、同学、师生、亲友。
4月太平军分兵两路，一路克靖湛，一路克湘谭，南北夹击长沙。龟缩在长沙城内的曾国落为解长沙之围，在28日亲自带领湘军水师猛扑靖港，但是被太平军给打败了，曾国藩觉得羞愧难当，跳水自杀，被属下救上来。但另路洲军则在湘潭取胜，迫使太平军从长沙前线撤退。7月，经过休整补充的湘军攻陷岳州，并追赶太平军出湖南， 10月连陷武昌、汉阳，12月在田家镇几乎全歼太平军水师，乘胜猛扑九江。
田家镇战败消息传到天京后，杨秀清命石达开赴西线指挥。1855年 1月，石达开设计在湖口、九江两次大败洲军水师，连曾国藩的座船也成了太平军的战利品。太平军乘胜穷追，三克武昌，挺进江西，但就在这年秋天，太平天国在天京发生内讧，给了曾国藩重整旗鼓
后来曾国藩父亲去世，曾国藩回家乡服丧。1858年7月，曾国藩以兵部侍郎身份受命办理浙江军务。他自己与曾国荃率主力出宿松攻安庆，其三路由多隆网、胡林翼、李续宜分率，进攻桐城、舒城和州，切断安庆与外围的联系。至1861年9月安庆失陷，太平军与湘军在安庆-线反复进行了较最争夺。
