咸丰三年(1853),
太平天国起义军自
武昌下
九江,沈兆霖上书请求速援
南昌。
咸丰帝谘以军事,沈兆霖奏言:“江西省会虽暂可无虑,贼扰外府,省兵不能兼顾。外府各有
团练,如肯齐心协力,何藉分兵?即如
抚州乡团不下数万,皆留保本村,官兵祗三百,已调赴省会。如团练不能合力,贼至何以御之?其故皆因
坚壁清野,旧议祗守本村,并不出战,不知事与
嘉庆年间川、楚教匪(
白莲教起义)不同。川、楚教匪劫掠村庄,自以坚守堡寨为是,今贼专攻省会、郡县城池,城既破,乡勇亦相与解散矣。抚州如此,各省各府亦必皆然。乞饬直省当於练勇中精选十之二三,联为乡兵,统以练达有位望之人。遇本县有警,互相救援。其外府、外县仍不得调往,以免扰累。”得旨允行。不久,以病乞罢。
咸丰五年(1855),疾病痊愈,署吏部侍郎,仍直南书房。沈兆霖疏言:“
安徽各郡,江北
安庆、
庐州、
和州,江南
池州、
太平府,皆为贼踞。
巡抚驻庐州,东北
徽州、
宁国府、
广德三属,几为巡抚号令所不及。事急则向
浙江请饷,事平则泄沓如前,不加整饬,旋收旋失,糜饷殃民。臣察徽州、宁国二府,山川险固,地皆可守,民亦健奋,
歙县、
休宁二县,尤多富民。宜於
皖南设大员,专辖四府、一州,庶以饬吏治,固民心。度险设防,
安徽巡抚得专心于江北,
浙江巡抚亦不至牵制於皖南。”疏下廷议,改
池太道为
皖南道,得专摺奏事,如
福建台湾道例,从之。寻兼署
工部、
兵部二部。
咸丰十年(1860),署
户部尚书。七月,
英法联军内犯,沈兆霖疏请力主抗战,不要急于言和。九月,授
兵部尚书。英法联军侵占北京,抢劫
圆明园,咸丰帝逃往
热河,他命令
直隶各州县组织民团,扰袭、打击侵略军。《
北京条约》签订后,咸丰帝仍然停驻热河,沈兆霖与诸大臣奏请
回銮,咸丰帝命待明年。沈兆霖复奏请明年春融,即启跸还京。寻调户部尚书。
同治元年(1862),命沈兆霖署
陕甘总督,亲自督兵自
碾伯(今
青海乐都)进击回部,屡败之,回部乞降。七月,师还,至
平番县(今甘肃
永登县)二道岭沟,雨雹,山水骤发,沈兆霖及从行兵役都没有幸免于难。水退,得沈兆霖尸,犹端坐舆中。
布政使恩麟以闻,同治帝深惜之,赐恤,赠
太子太保,谥文忠。
《
清史稿》:同治初政,沈兆霖、
曹毓瑛入赞
枢府,兆霖暂领陕督,督师定西宁,以死勤事;毓瑛慎密练达,克副简拔。