他说，民不能守而责兵以战，没有民在前堵截，战亦不过是尾追；民不能守而设官以守，没有民听其指挥，守亦不过是空城。太平军“处处可通，我难一一设防”。
若河南、江西、安徽等省，幅员辽阔，门户尤多。地广而防不足；防多而兵不足；兵增而饷不足，是所谓“三大患”。然“用兵防贼则不足，用民为兵则有余”。“以本处之民守本处之地，以本地之资供本地之用，有且守且耕之利，无增兵增饷之烦。
由乡及县，有县及府，贼无可掳掠，无从裹胁，不战自溃”。更何况民后面还有兵，“守”后面还有“剿”。现在广西博白、江西萍乡、湖南长沙等地，“皆以团练得力，贼不敢近”，“保全甚众”；湖南、江西团练事宜，又“已奉旨派罗绕典、陈孚恩办理”，但“一乡一邑举行，各州县未能普律办理，无以联络声势”，“且通省行团亦非一二人所能兴办”。
所以，他“拟请旨饬令各省同乡京官，各就本籍人员，无论何官及在京在籍，择其品行端方，才具明练者，每省公保数人，恭候简派。同乡官公保本籍人，非其人不敢滥举。以本籍人办本籍事，民情信服，劝导易从，似于团练事宜较为得力”。
他并同时指出：团练即保甲，有事为团练，无事为保甲。“贼退省分行之，可以招集流亡、兴复义社等仓，所以善后于已事；远贼省分行之，可以稽查奸宄，杜绝外来窥伺，所以防患于未然。”
随之，咸丰二年年内，有湖南湘乡丁忧在籍的前礼部侍郎曾国藩、已致仕而侨寓皖北的前漕运总督周天爵、江苏无锡因救援全州不利被褫职还籍的前广西巡抚邹鸣鹤等先后被委派帮同办理团练防堵事宜。由于后来湘军的崛起，其中曾国藩最为有名。
曾国藩办理团练有两个显著特点：1、曾国藩办理团练的名言是：“重在团，不重在练”。
他认为团练的“团”，实际就是保甲之法：“团与保甲名虽不同，实则一事。近人强为区别，谓操练技艺、出队防剿者，即为团练；不操技艺，专清内奸者，即名保甲，不知王荆公初立保甲之时，本曰民兵，本尚操练。”“齐心合力，以一族之父兄治一族之子弟，以一方之良民，办一方之匪徒，匪类去尽，则善良安生，乃所以为团也。”
而“练”，则是保甲军事功能的进一步挥：必“制器械、造旗帜、请教师、拣丁壮，或数日一会，或一月一会，又或厚筑碉堡，聚立山寨，皆大有兴举”。但如此，“非多敛钱文不可”，“方今百姓穷困，无生可谋”，所以，各乡只宜行保甲之法，团而不练。至多于城厢“操练一二百人，以资剿办土匪之用”。
他指出：
“团之一字，利病各半，恐利少而病多，起团必设局，立局则必敛费，或择户劝捐，或按亩摊派，年年索钱，夜夜巡警，贫家既不胜其扰，而坐局收费之人又未必果纯乎公廉。”“闻有团局擅自专杀者，众情为之不服。”然面对战乱的形势，若一定要办团练的话，他强调只应“略”行“乡团族团”，“就近访查头目，呈送县官”。并建议出一告示，力禁可能导致团练势力膨胀、尾大不掉的“三端”：一禁团局不许擅杀，并不许用刑；二禁团局不许轻听诬告诬扳之辞；三禁不许团局罚钱，并不许多敛局费等。当然最基本的，团练还是要出自保甲。“访查头目，呈送县官”、仅应“略”行的“乡团族团”。
在这个前提上，曾国藩在规整现有团练的基础上，抽练一支不同于**无用绿营军的新军——勇营。并率勇出战，参与对太平军捻军等所谓“匪寇”的攻防堵截。
曾国藩受命帮办团练之前，他家乡湖南湘乡的绅士如生员孝廉方正罗泽南、“从罗泽南学”的生员王錱等即已倡办团练而有成了。罗泽南王錱等并不如曾国藩指斥的那样将“操练技艺、出队防剿者”视为团练；将“不操技艺，专清内奸者”视为保甲。他们甚至不提保甲，只提团练。
王錱说：“团练之法，是团练二字本不容分。今欲其名色不混，始拆为二。其有招募四方精锐日事训练，有警调守卡打仗者，名为练勇。其各乡团家出壮丁守望相助，有警守卡打仗助阵者，名为团勇。练勇视其地为多寡，或二百，或三四百，于城内设一总局，公择绅士……主其训练之事。”
也就是说，他们认为“团练”可分为“团勇”与“练勇”。团勇是各乡团家出壮丁组成，守望相助、有警则守卡打仗助阵的非常设民众武装；练勇，是招募四方精锐而成，日事训练、有警则调守卡打仗的常设专业武装。
曾国藩则以钦差帮同办理团练的朝廷大员及本籍缙绅的双重身份，在咸丰三年初剿平“桂东土匪”、驰援江西南昌等战事之中，调集家乡这些已有的各支练勇参与征战，在征战之中组合，并进一步与部分绿营军和新募之勇再组合，成为一支作为湘军前身的新的武装——湘勇。
曾国藩本人否认这支新的武装是团练。他十分清醒、准确地界定自己所办的是“官勇”：
“臣自咸丰二年奉旨办团，初次折内即奏明自行练勇一千，是臣所办者乃官勇非团丁也”。并