安慶、蘇州、常州接連被清軍收復，曾國藩開始策劃由自己的嫡系部隊攻取太平天國國都天京。自從安慶被湘軍攻克後，天京（今南京）以西已經全部為清軍所掌控。太平天國英王陳玉成由安慶潰退至壽州，被投降清廷的皖北團練頭子苗沛霖誆騙抓獲，隨即被處死。太平軍在西線戰場上的抵抗能力因此更為薄弱，曾國藩、曾國荃、李鴻章、左宗棠等因此能輕而易舉地攻奪安徽及長江沿岸的一個個重要據點。
萬里長江沿線已基本為湘軍水師所控制。曾國荃率湘軍最精銳的吉字營三萬餘人沿長江北岸迅速東下，沿途攻城拔寨，迭克由太平軍扼守的數座重鎮，很快逼近南京（太平天國稱天京）外圍，並將大營紮在離南京城不到四里地的雨花臺。湘軍水師統領彭玉麟則率九千餘人乘數十艘戰船沿江東下，連克頭關、江心洲、蒲包洲，幾乎每戰必克，最後竟勢如破竹般攻至南京護城河口。
只不過短短兩個多月，湘軍便輕而易舉地攻破了一座又一座堡壘、要塞，兵鋒直逼天京城下，這不僅大大出乎曾國藩的意料之外，就連天王洪秀全也感到十分錯愕與震驚。經天京內訌、石達開又帶走十餘萬百戰精兵、加上連經安慶、蘇州、常州數場惡戰，太平軍不僅減員嚴重，而且屢屢失利，導致將士士氣渙散，戰鬥意志與戰鬥力也隨之急速下降。
1862年（同治元年）6月初，曾國荃開始向秣陵關發起猛攻，秣陵關是金陵門戶，亦是起拱衛作用的屏障，但此時太平軍在此並未設重兵把守，守備的也不太嚴密，湘軍發起圍攻後，太平軍守將稍事抵抗便獻關投降了。初戰獲勝，曾國荃令吉字營前鋒繞過三汊河向大勝關襲去。次日，曾國荃在橋邊設下伏兵，然後命6營大軍銜枚疾進，向大勝關側後方發起進攻。太平軍見湘軍從身後包抄過來，害怕被包圍，便乘夜放火，棄關而逃，湘軍緊追不捨，大敗太平軍，一舉奪取大勝關，隨後又折返攻取三汊河。
李秀成只想經營自己的老巢蘇福省，對於回援岌岌可危的天京並不積極，因此一再拖延，乃至貽誤了最佳戰機。6月8日，兩千餘太平軍出城突襲立足未穩的湘軍，意圖奪回大勝關、三汊河要塞，卻被曾國荃挫敗，太平軍見不能得逞，退回城中。初戰不利，使洪秀全大為驚恐，遂一日之內連發急詔，令正在上海松江一帶與淮軍激戰的李秀成火速回援天京。
李秀成是太平天國後期的優秀將領，稱得上身系天國安危的中流砥柱，但自他在江蘇建立蘇福省後，一心只想經營自己的江南地區，不願立刻率部增援已經四面楚歌的天京，一直拖到8月中旬，才在天王的嚴厲斥責下，不太情願地匆匆趕回天京。
就在李秀成猶豫不決時，曾國荃基本已完成了對南京的軍事包圍。假如李秀成在湘軍進攻之初即立刻率軍回援，則後來的戰爭走向與攻防態勢對天國來說恐怕就沒有那麼被動了……。
雨花臺之戰歷時46天，兵力十倍於湘軍的太平軍竟屢遭挫敗，原因又與李秀成有關。就在李秀成回師天京之時，湘軍雖已實現對天京的圍困，但坐鎮安慶遙控指揮的曾國藩依然焦慮重重，並不感到勝券在握。因為太平天國在天京苦心經營了15載，防禦力量還是不容小覷的；佈防在南京以東的太平軍，還有相當強的實力；安徽大部雖已被清軍收復，但皖南還有太平軍在堅持抵抗；扶王陳得才、遵王賴文光率領遠征陝西的太平軍，最近又殺回河南、湖北，意圖在長江中游地區牽制清軍，聲援天京。曾國藩畢竟老謀深算，他多次告誡屯兵雨花臺的老弟曾國荃，萬勿驕傲輕敵，要穩紮穩打，時刻保持警惕。
事實確如曾國藩所料。8月底，忠王李秀成率蘇南太平軍大舉回援天京，9月初，侍王李世賢率浙西太平軍也北上援京，與李秀成部配合作戰，就這樣，南京外圍的形勢陡起變化，曾國荃的圍城部隊反而處於被優勢太平軍圍攻的不利境地。
10月，李秀成指揮數十萬勇猛善戰的太平軍對圍城湘軍發起了強大攻勢，拉開了雨花臺戰役的序幕。10月13日，李秀成出動數萬精銳將士，對湘軍發起兇猛攻擊，曾國荃將部隊分為兩部，一部仍然攻城，一部則抵禦外文太平軍的進攻。因人數處於劣勢，湘軍被太平軍挫敗，混戰中，曾國荃臉頰中彈，差點喪命。但湘軍以“扎死寨，打硬仗”、頑梗兇悍聞名，拼命阻住了太平軍一波波的進攻，雖然自身死傷慘重，但卻死戰不退，好歹守住了防禦陣地。遠在安慶的曾國藩聞訊，憂心忡忡，焦慮異常，徹夜難眠。
雨花臺戰役持續了46天之久，是天京保衛戰中最重要的一次戰事，事關全域性。是役太平軍擁眾30餘萬，十倍於湘軍的兵力，武器裝備也不遜於湘軍，一舉擊潰甚至全殲湘軍奪取最終勝利本是十拿九穩之事。令人抓狂的是，李秀成在擁有絕對優勢兵力的情況下，用了一個半月的時間，不僅未能摧垮兵力羸弱、幾乎彈盡援絕的圍城湘軍，還損兵折將，最後又突然決定撤圍退入天津城內。
雨花臺戰役失利的原因，歷來眾說紛紜。李秀成自己的解釋是，湘軍深壕高壘，兵力強大；而太平軍糧草匱乏，將士沒有配發禦寒的冬衣。
其實，他的解釋很勉強，根本站不住腳。彼時曾國荃的吉字營只有3萬人馬，基本沒有後援，加上軍中正鬧瘟疫，染疫者過半，死傷累累，能提槍上陣作戰者不足一半。
而彼時從蘇浙等地運來的糧草仍源源不斷，天京城內外的糧食供應基本還能保障。而當時南京地區仍屬秋冬交替之際，天氣還不算十分寒冷，即便不穿棉衣也不影響作戰，用不著全軍退守天京。由此可見，李秀成的解釋是沒有根據的，理由很蒼白。
太平天國最後的決戰，30萬大軍為何擋不住1萬湘軍？主帥李秀成難辭其咎！
雨花臺戰役，太平軍在擁有絕對優勢兵力的有利條件下，居然失利，其真正的原因就是戰鬥力的迅速下降，而主帥李秀成對這場攸關成敗戰役的重要意義認識嚴重不足，因此態度消極，對最後的失利負有主要責任。
李秀成的軍隊久居江南膏腴之地，貪圖安逸，加上大量新兵加入，素質大不如前，鬥志下降，紀律也隨之渙散，戰鬥力被嚴重削弱。
主帥李秀成則對嚴峻的形勢認識不足，為儲存實力，他行動遲緩，拖延了3個月才不情願地回援天京。假如他一接到天王的告急詔旨後，立刻率軍進援天京，再集中優勢兵力攻擊尚未在天京城外扎穩腳跟的曾國荃部，一舉殲滅之並非不可能之事，解天京之圍應該沒有大問題。
雨花臺戰役在佔盡優勢的情況下居然失利了，亦絲毫沒有改變天京被包圍的困境。洪秀全焦灼萬分，對李秀成的表現也十分憤慨。之後，洪秀全、李秀成在無計可施的情況下，居然策劃了一個所謂“進南救北”的計劃。其實就是由李秀成率軍北進，吸引清軍主力，以解天京之圍。這場計劃以失敗告終。李秀成的20萬大軍北上後很不順利，被迫折返，在儀徵、江浦一帶遭遇清軍伏擊，幾乎全軍覆沒，最後只餘15000人，損失之慘重為太平天國史上所僅見。
“進北救南”計劃失敗後，長江北岸的太平軍據點全部淪陷，通往天京城的水陸及糧道全部斷絕。不久後，湘軍完全實現了對天京的重重圍困……之後，洪秀全又拒絕了李秀成“讓城別走”的建議，不久病餓而死，天平天國的輓歌已經隱隱唱響。
同治三年（1864）六月十六日，湘軍用火藥轟開太平門，天京陷落。歷史雖不能重複，但驚人相似，當年太平軍也是用炸藥轟開號稱固若金湯的南京城的。