咸丰四年(1854)六月,曾国藩率水陆大军,紧逼太平军湘潭大战后所退守的岳州,塔齐布为前锋、罗泽南、周凤山部为后援。太平军迎战失利,退守长江要塞城陵矶,此地为洞庭湖出长江的咽喉,由太平军名将曾天养镇守。七月十六日,陈辉龙、褚汝航、夏銮、沙镇邦等部水军因胜而骄, 扬帆齐进,深入太平军的伏击圈中,结果全军覆没。
七月十八日,曾天养率太平军近三千人弃舟登岸,迎击湘军塔布齐,曾天养死于乱刀之下。太平军突失大将,败退武昌。
自从冒险进攻靖港,招致惨败之后,曾国藩吸取教训,命塔齐布由鄂南重镇蒲圻、咸宁进攻,他自带水师直逼嘉鱼,水陆齐进,包抄武昌。此时湖广总督杨霈率军依然迁延观望于德安(今安陆)一带。
见湘军兵锋甚锐,太平军守将黄再兴、石凤魁带军仓隍逃往武汉下游的田家镇。八月二十三日,湘军占领武汉,将太平军水军战船完全堵在汉水中无法驶进长江,最后全部落入湘军手中。
当湘军克复武汉的消息传来时,咸丰帝起初不太相信。九月五日,咸丰帝看到曾国藩的报捷奏折后,大喜。自太平天国起义以来,咸丰帝被前线不断传来的坏消息弄得日夜叹息,他没有料到湘军会远胜于绿营,在奏折中批道:“览奏感慰实深。获此大胜,殊非意料所及。朕惟兢业自持,叩天速赦民劫也”。落笔之后,他不禁感叹:“不意曾国藩一书生,乃能建此奇功!”旋即,咸丰帝任命曾国藩署理湖北巡抚。事后,有一个军机大臣提醒咸丰帝说:“曾国藩以侍郎在籍,犹匹夫耳。匹夫居闾里一呼,蹶起从之者万余人,恐非国家福也”。咸丰帝听后,默然良久,他深恐湘军——这支体制外的新兴力量将太平军镇压之后拥兵自重,大清的江山从此落入他人手中!经过权衡之后,从曾国藩手中收回湖北巡抚的成命,前后仅八天时间。
木秀于林,风必摧之。刚成就大功的曾国藩深深感到“功名之地,自古难居”,他没有得到地方实权,只获得一个兵部侍郎虚衔。接任湖北巡抚的,是屡屡作梗的原湖南按察使陶思培。会攻武汉时在远处迁延观望,火急冒功请赏报捷的杨霈也由署理改为实授湖广总督。
初试锋茫,湘军的战斗力之强,绿营与之相比不可同日而语,这就好比一个身强力壮的年轻后生与百病缠身的将死之人——的比较。面对大有希望的前景,曾国藩将目光放得很长远,他怎么能因为一时的挫折,天道的不公而象一个匹夫那样抑郁丧志,而在乎眼前的得失?他在家书中说:
惟近日公道不明,外间悠悠之口,亦有好造谣言讥澄弟之短者。而澄弟见我诸事不顺,为人欺侮,愈加愤激,肝火上炎,不免时时恼怒,盛气向人。人但见澄弟之盛气,而不知实有激之逼之使然者也。人以盛气凌物诮澄,澄以盛气伤肝致病。余恐其因抑郁而成内伤,又恐其因气盛而招怨声。故澄归之后,即听其在家休息,不催其仍来营中。
大抵世之乱也,必先由于是非不明,白黑不分。诸弟必欲一一强为一一区别,则愈致混淆,必将呕气到底。愿诸弟学为和平,学为糊涂。
湘军在攻占武昌后,曾国藩就下一步的军事行动作了冷静的思考。八月三十日,他上奏咸丰帝,说攻取武汉后随即沿江东下有三点之忧:湘军在岳州,武昌战役后,湘军的兵员,军械,战船,损耗不小,急需休整和充实,否则将影响战斗力,此时悬军深入,稍有不慎就会陷入“四面皆城,饷道易断”的危境,此为二忧;湘军的补给,主要靠湖南,眼下湖北经济还没有恢复无法补给军队的情况下,东征江西,安徽,军事补给线太长,转运困难从而导致军心溃散,前功尽弃,此为三忧。曾国藩认为,只有肃清湖北后努力经营,使它和湖南两省成为大后方,然后进图江,皖,最后进逼天京。但咸丰帝急于求成,没接受曾国藩正确意见,命令他东下。
曾国藩无奈,于咸丰四年九月命令水陆两师拔营,向东进发,一路攻占大冶、兴国、蕲州,直逼长江沿线要塞田家镇,镇对岸的半壁山形势险要,为自古兵家必争之地,太平军守将秦日刚在江面及沿线层层设防。湘军首攻选择了长江南岸的半壁山,太平军经过苦战,大败后撤退。随后,湘军水师十月十三日在江西发起进攻,斩断横江四重锁链,焚烧太平军战船数千艘,此战太平军水师遭受重创。