左宗棠调任陕甘总督后，放心不下初创的福建船政局，于是举荐沈葆桢接管。到任后的沈葆桢，完全遵循左宗棠定下的规章，将船政局办的有声有色。1869年9月，他主持建成的兵舰“万年青”首航成功，这是中国人自造的、完全由中国人领航首艘蒸汽轮机战舰。第二年，福建船政将自造的四艘兵轮，和买来的三艘编成一支舰队。这是近代第一支新式舰队。沈葆桢因此被誉为近代海军之父。1874年，日本侵台。沈葆桢派军舰驰援，日军迫于形势，不得不撤离。
光绪元年（1875年），沈葆桢出任两江总督兼南洋通商大臣。左宗棠有出兵新疆的计划，却苦于军饷不足，打算请沈葆桢出面，以关税担保，向西方借款。两人私下里商量时，沈葆桢是同意的。没想到左宗棠正式奏请朝廷时，沈葆桢却变了卦，认为此举风险太大，会损害两江地区的利益，就上疏反对起这项计划。左宗棠破口大骂，也和沈葆桢绝了交。
光绪五年（1879）十一月，沈葆桢因积劳成疾病逝于任上，年仅59岁。
