1854年2月25日，曾国藩督率全部湘军分水陆两路自衡州起程，到湘潭集结，随后开赴长沙。3月上旬，陆路湘军自长沙开赴靖港、乔口，阻截南下的太平军。由于湘军陆续北上，太平军难以抗衡，因而一度放弃岳州等处，自湖南撤回湖北。4月初，太平军加强兵力之后，由湖北蒲圻方向重新发起进攻，7日再克岳州。曾因藩在湘军“陆路既已失利，水军亦无固志”的情况下，不得已“乘风上驶，退保省城”。太平军乘胜进至乔口、靖港等地，逼近长沙，并在4月21日、22日于靖港击败曾国藩派出的湘军水师。鉴于长沙防守严密，南路太平军决定由石祥祯率部分兵力扼守靖港，由林绍璋率主力近二万人由陆路绕经宁乡，疾趋长沙西南数十里的湘潭，以便南北夹击，围攻长沙。22日，林绍璋所率太平军大败扼守宁乡的三营湘军（共一千八百人），歼其营官三人及勇丁五百余名。当补用副将塔齐布率湘军一千三百余人驰援宁乡时，太平军已由间道直赴湘潭，并于24日占领了湘潭城，对长沙湘军后路构成严重威胁。林绍璋等督饬太平军于城北赶筑木城，防敌进攻，又收民船数百只，编组水营，控制湘江江面。
4月25日，塔齐布率部赶到湘潭城外，营官江忠淑等率部二千六百名继至。塔齐布认为，太平军“每用以守为战、反客为主之法，若不及时速剿，埃贼背垒既定，攻克为难”，于是立即对太平军展开猛攻。太平军出城迎击，双方在湘潭北郊连日激战。塔齐布令兵勇闻炮即伏，炮止即进，直冲太平军营垒。面对湘军的疯狂进攻，太平军进行了顽强的抵抗，但由于初到湘潭，扎营未稳，且又孤立无援，渐呈难以抵御之势。
27日，曾国藩又派湘军水师总统、知府褚汝航等率水师五营驰援湘潭，在湘江内与太平军水营展开激战。湘军水师凭借船炮的优势，庄返冲击。由民船仓卒组建的太平军水营，难以抵挡湘军水师的进攻，三天之内被毁大小船数百只，伤亡逾千人。
由于连日接战不利，加之太平军内部新老战士之间相互埋怨，甚至发生械斗，林绍璋等决定留兵一部守城，自率大队向湘江上游转移。29日，在击退湘军的进攻后，立即集中船只，装载财物，乘风上驶。次日午间抵达下滠司时，不意为湘军水师追及，因拒战失利，便弃船登岸，由陆路拆回湘潭。这时，湘军已在湘潭城外设下伏兵，5月1日，当守城太平军战士缘梯而下，准备接应城外太平军入城时，湘军伏兵骤起，将出城之太平军战士砍死，乘势夺梯登城，打开城门。大队湘军立即冲入，夺占了湘潭城。自下滠司折回的太平军见城已失守，只得分道撤退：林绍璋率部北返靖港，另一部经醴陵东走。湘骤之战，太平军伤亡和逃散甚众，损失惨重。
此前，曾国藩得悉湘军在湘潭水陆初胜，即于4月28日亲率水师五营（大小战船四十只）、陆勇八百人，由长沙进袭靖港，企图使太平军首尾不能相顾。当天中午，南风骤起，水流迅急，湘军战船顺风闯入靖港，遭太平军岸上炮火猛烈轰击，指挥船被击伤，各船连忙降下风帆，到靖港对岸之钢官渚躲避。太平军立即出动二百余只小划船，对湘军水师发起攻击，毁敌船中余只。湘军水勇不支，纷纷弃船上岸。这时，坐镇白沙洲（距靖港二十里）指挥的曾国藩，急率陆师向靖港方向增援。但湘军陆勇见水师失利，又见太平军大批出动，便纷纷后退，曾国藩执剑督战，也不能遏止。靖港一战，湘军水陆皆败，战舰损失三分之一，炮械损失四分之一。曾国藩羞愤交加，两次投水自杀，皆被随员救起，最后狼狈逃回长沙。
太平军虽在靖港获胜，但无法抵偿湘潭之战所遭受的损失。湘潭失利的直接原因，首先是对战斗力较强的湘军尚缺乏了解，因而在思想上和军事上都缺乏与强敌作战的准备；其次是孤军冒进，立足未稳，遭敌猛攻，措手不及；再就是临时编组起来的水营，抵挡不住经过训练和装备有洋炮的湘军水师，以致连连失利，影响了整个作战。
西征军自1853年从天京出发，到进军湘潭，前后不足一年，先后攻占了安庆、庐州、九江、汉口、汉阳、岳州等重填，有效地保障了天京上游的安全和粮食物资的供应，取得了重大胜利。但战线拉得太长，兵力过于分散，且不懂得巩固既得阵地，只顾长驱直进，以致既未能有计划地大量歼灭敌人，骤遇强敌时又不能集中优势决战决胜。此后不久，西征军便被迫由进攻转入防御，在湘军的进攻下，节节后退，几至不能遏止，对整个西征作战影响甚大。
湘潭、靖港之战，湘军损失也很严重。曾国藩承认：水师仅存湘潭五营二千余人，陆师仅存湘潭与留防平江之勇二千余人。因此，急需招募兵员，修造战船，购置枪械，进行休整补充。太平军方面，自湘潭战败后，不得不于5月4日自靖港等地退守岳州。后由林绍璋率部西向，连克湖南龙阳（今汉寿）、常德、桃源。6月中旬，林部与由湖北南下的曾天养部在常德会师，后乘船越洞庭湖回到岳州，于是西征前线的兵力才得以相对集中。
南路太平军在湘潭失利后，率军围攻武昌的韦志俊等恐湘军长驱北上，湖北难保，便将分散于鄂北各地的太平军调回，并力进攻武昌城，而由石祥祯、林绍璋分军活动于通城、岳州、常德等地，牵制和阻遏湘军。当时，武昌城内清军由于被围日久，饷绌粮尽，巡抚青麟束手无策；总督台涌仍然株守德安府，不敢南下救援；荆州将军官文则受北路太平军牵制，无暇东顾。在此情况下，太平军终于在6月26日攻克武昌，青麟等侥幸突围，绕道逃往荆州。在攻城战斗中，年仅十八岁的太平军将领陈玉成率五百壮士，奋勇当先，表现非常突出。清廷以武昌失守，将台涌革职，青麟军前“正法”。
二、被迫退却
（一）岳州争夺战
湘军经过两个多月的休整补充后，战斗力又得到恢复。1854年7月上旬，曾国藩以二万之众，自长沙北上，水陆并进，再次对太平军发动进攻。水路以水师总统褚汝航等率水师四营二千人进泊岳州南六十里的鹿角，扼岳州太平军南进之路。陆路以署提督塔齐布所部为中路，增派知州罗泽南、魁联之湘勇二千人为助，由新墙直趋岳州；以道员胡林翼所部为西路，由常德向北推进；以同知林源恩、江忠淑等部为东路，出平江，取道通城、崇阳，直逼武昌。湘军以湖南为大后方，其兵员、粮饷的筹集与供应事宜，均由湖南巡抚骆秉章和左宗棠等负责，基本上无后顾之优。
7月16日，当塔齐布率陆师自新墙向岳州前进时，曾天养率部迎战不利，仍退守岳州。23日，太平军水师在东洞庭湖君山、雷公湖一带遭湘军水师伏击，损失不少船只。太平军水陆连败，形势十分不利，遂于25日主动放弃岳州，退守岳州以北二十余里之城陵矶。
湘军进占岳州之后，太平军决定乘其立营未稳，组织反攻。7月27日，曾天养等督战船四百只，在陆路配合下反攻岳州。湘军分五路迎战。太平军水陆皆败，失战船七十六只，炮二百八十余门，伤亡逾千人，曾天养只得率余部退守临湘。7月30日，韦志俊率部自武昌来援，与曾天养、林绍璋等率战船五六百只，再次反攻岳州。湘军水师迎击于城陵矾。开始胜负未分，后由于湘军水师营官杨载福率舢板绕至太平军水师之后，乘风纵火，太平军战船被焚百余只，伤亡千余人，不得不撤出战斗。
8月8日，曾国藩亲率总兵陈辉龙所部广东水师四百余人自长沙进抵岳州（道员李孟群所部粤桂水师一千人不久也由长沙开到）。8月9日，陈辉龙督队进击太平军。出发前，曾国藩告以“下游水急，进易退难，如遇南风，不必开仗，且沿江港汊，虑有埋伏，获胜后仍勿穷追”。陈辉龙深以为然。及至城陵矶，与太平军相遇，双方前锋开始交战。此时，南风忽起，湘军水师船只顺流而下，难以自控。曾天养见此情景，令大队战船埋伏于旋湖港，另出小舢板诱战。湘军水师中计，陷入重围，进退两难。陈辉龙见风势愈大，急欲收队，但恐前队有失，不得不亲自赶往救援，由于坐船笨重，激战中搁浅。太平军将士蜂拥而上，当即阵斩陈辉龙。湘军水师总统褚汝航牵船救援，也被太平军击毙。同时被歼的还有同知夏銮、游击沙镇邦、千总何若澧以下数百人。陈辉龙一营船炮尽失，其余各营亦损失不少战船。曾国藩闻报，“伤心陨涕”，哀叹经营多时的船械一天之内损失将半。
8月11日，曾天养率兵三千由城陵矾登岸，准备据险扎营，牵制湘军北上，不意塔齐布率兵猝至，来势凶猛。年近花甲的曾天养单枪匹马冲入敌阵，直奔塔齐布。塔连忙躲闪，仅伤坐骑，而曾天养反为湘军所伤，落马牺牲。塔齐布乘势挥军冲击，太平军因主将阵亡，且战且走，从水路撤回，伤亡数百人。曾天养骁勇善战，夙有“虎头军”之称。此次作战，其勇敢精神诚属可嘉，但作为一军主将，脱离部队，单骑陷阵，则是一种鲁莽行为。曾天养阵亡后，太平军在韦志俊率领下，于城陵矶一带与敌相持十余日，接战五次，败多胜少，遂于8月25日撤往武汉。
（二）放弃武汉
太平军撤离城陵矾后，湘军水陆并进，直指武汉：水师于9月4日占嘉鱼，15日进抵武昌西南六十余里的金口；陆师由塔齐布等率领，9月5日从岳州出发，因沿途受到太平军阻击，迟至10月6日才抵达武昌南六十里的纸坊（今武昌县）。曾国藩于10月2日抵金口，不久，与塔齐布、罗泽南等共同商定了进攻武汉的计划：先以水师控制江面，隔断武昌与汉阳之间的联系；以陆师塔齐布部四千人由纸坊进攻洪山，罗泽南部三千人由金口进攻武昌花园，副都统魁玉、已革总兵杨昌泗率荆州兵四千三百人进攻汉阳。
太平军于6月26日克武昌后，由韦以德、石凤魁、黄再兴等率军约二万人防守。三个多月来，在外围修筑了大量防御工事。于花园一带立大营三座，掘深沟宽二丈，长约三里，沟的内侧立木城，实以沙土，中开炮眼，沟外侧立木桩，交互连钉，桩外密布竹签，环以荆棘。木城之内，又有砖城内壕，安炮百佘门。汉阳的防御工事也相当坚固。
10月12日，清军开始总攻。当日，曾国藩督水陆两军自金口沿长江三路齐下：李孟群等率水师为中路，其前队闯过盐关，直抵鹦鹉洲，出现于太平军水师之后；当盐关太平军战船回援鹦鹉洲时，湘军水师后队又至，对太平军水师实行前后夹击，烧毁其战船三酉余只。罗泽南部合荆州派来的李光荣部川勇共四千人为右路，进攻花园。他们分路扑向太平军营垒，纵火焚烧，太平军不支败退。魁玉等所率的荆州清军为左路，进攻汉阳虾蟆矶，冲进土城，并破鹦鹉洲太平军营垒。同日，塔齐布部湘军也进扼武昌城东的洪山。
13日，湘军水师直下武昌塘角等地，又焚太平军战船三百余只，前锋进至青山。罗泽南等部破武昌鮎鱼套附近太平军营垒六座。汉阳方面，魁玉、杨昌泗部毁太平军晴川阁木栅及大别山（即龟山）木垒。至此，武汉江面无太平军船只，城外无太平军营垒，武汉三镇暴露在湘军的直接威胁之下。太平军守将石凤魁、黄再兴等（当时韦志俊、石祥祯、韦以德等已东返天京）匆忙决定放弃武汉，于14日展开始撤离。撤退过程中，武昌太平军在城东的洪山遭湘军塔齐布部截击，损失千余人；泊于汉水中的太平军水师战船千余只，因来不及下驶，被湘军焚烧殆尽。
武汉地处天京上游，南控湘赣，北扼荆襄，它的失守，对西征战局的影响甚大。武汉失守的主要原因有三：首先，当太平军在城陵矶阻击湘军时，武汉方面一再派出援军，损失精锐不少，使防守武昌、汉阳的兵力逐渐减少。其次，自曾天养阵亡后，西征战场前线缺乏适当的统帅人物，负责驻守武昌的国宗石凤魁，“粗通文墨，不谙军务”，协助防守的地官副丞相黄再兴，系办文案出身，同样不长于军事，而石达开则一直远离前线，鞭长莫及，无法进行有效的指挥。再次，西征太平军自湖南败退后，士气大挫，一时失去了与湘军作战的信心。在湘军水师前锋刚刚占领金口时，国宗韦以德即托故先回天京；待湘军水师进至武汉江面并战败太平军水师时，武昌太平军仓皇撤离，驻防汉阳、汉口的太平军也随之弃城而走。此外，曾国藩注意到了沿江作战的特点，先以优势的水师从中路突破，取得江面主动权，将两岸太平军分隔开来，以便陆路各个击破，这也是设防坚固的武汉之所以迅速易手的原因之一。
（三）田家镇、半壁山防线被突破
湘军占领武汉后，声名大噪。清廷赏曾国藩兵部侍部街，办理军务。曾国藩于得意之余，即筹划大举东犯，并决定以夺取九江为第一目标。他与新任湖广总督杨霈商定了一个水陆并进，夹江而下，首先突破太平军田家镇、半壁山江防，进而夺占九江的三路进军计划。其兵力部署是：南路由新任湖南提督塔齐布和知府罗泽南分统湘军兵勇沿长江南岸进攻鄂东大冶、兴国（今阳新）；北路由杨霈督陕西提督桂明率绿营兵进攻蕲州、广济（今蕲春东南）；中路以水师顺江而下，由参将杨载福、同知彭玉麟率部先发，曾国藩与李孟群率后队继进。预定三路会师于田家镇，总兵力约万余人。
