李鸿章初到上海，就像一条出水蛟龙，一时间弄得风生水起，在上海滩这块“风水宝地”写下了国人最早的创业神话。
当然，不论何种创业，都充满艰辛与坎坷，不屈与苦痛，李鸿章也不例外。
六千五百名淮军，雇佣当时世界上最为先进的水上交通工具——七艘洋轮，兵分三次从安庆而下，以近乎大摇大摆的姿态，不费一枪一弹、一兵一卒，竟然神不知、鬼不觉地穿越太平天国铁桶般严密的防区天京及苏皖一带，顺利抵达上海。朝野上下，对“初出茅庐”的李鸿章不禁刮目相看。对这一近乎冒险的行动，李鸿章在一封致友人信中写道：“此行险阻艰危，当备尝之，成败利钝所弗计也。”
上海各界盼援兵如久旱之盼云霓，而淮军杂乱的着装与简陋的装备令他们多少感到失望。特别是洋人，更是公开嘲笑不已，说李鸿章的淮军是“叫花子兵”。憋了九年闷气的李鸿章正想着如何扬眉吐气呢，不料以破釜沉舟的气概刚刚踏入上海，迎来的却是一股更加让人压抑的郁闷。他被逼到了墙角，除了拼命与成功，已是别无选择。
李鸿章在上海站稳脚跟，使得中外人士对他刮目相看的首战之功，便是虹桥大捷。
1862年 6月 17日，李秀成率太平军五六万人逼近上海，猛攻虹桥淮军兵营。到上海两个月了，淮军还没像模像样地打过一仗，不唯李鸿章，全军上下，都憋着一股气，攒着一股劲，总想寻个机会好好地打它一个漂亮仗。九年幕僚生涯，李鸿章经历的战阵可谓多矣，足以称得上一位沙场老将，积累了丰富的战斗经验。针对太平军远来奔袭、劳军疲乏的弱点，他决定抓住时机，趁其扎营未定之际主动迎敌。于是，李鸿章亲率各营淮军分成六队，在排炮的掩护下迅速出击。两军相接，很快便处于相互抗衡的胶着状态。太平军毕竟人多，超过淮军近十倍，时间一长，淮军力渐难支。而有过两次交锋失利，已对太平军怀有恐惧的数千洋兵，竟在洋泾浜作壁上观，迟迟不肯加入战阵。李鸿章见状，急得快要吐血了。成败胜负，在此一搏，只见他跃马冲出战阵，不作生还之想地向前冲去。淮军官兵见主帅如此不顾死活地拼命杀敌，全都以一当十，奋勇向前。两军相逢勇者胜，太平军遗下三千多具尸首，被迫后退，逃回泗泾。
此仗打出了威风，也打开了局面，李鸿章深感痛快，不由得大肆渲染道：“鸿章以五千人击十万贼于虹桥，幸获大胜，松沪肃清。”回首战事，自然也免不了几分后怕：“幸而我军战胜，洋人悦服，若我军战败，无处立足矣!”
强敌当前，尽管打了一场胜仗，李鸿章并未头脑发热虚骄狂躁。经过一番观察了解，觉得洋人当初的嘲笑并非没有道理。在上海这一中国开放最早，也是最为成功的对外通商口岸，李鸿章算是真正见识了洋人的“能耐”。高楼、电话、电报、报纸、自鸣钟、手表、西医等等诸多新鲜玩意、新生事物自不待言，以他尤为关注的军事来说，洋兵、洋枪、洋炮，的确令人敬畏不已。在致曾国藩的一封函札中，李鸿章写道：“洋兵数千，枪炮并发，所当辄靡。其落地开花炸弹，真神技也。”
认识到己方不足，李鸿章的态度，不像清廷妄自尊大的满族遗老遗少、士大夫中的顽固守旧派那样，妖魔化地予以拒斥，而是放下架子虚心求教、尽力改进。在与洋人的交往中，李鸿章逐渐形成了一套具有个人风格的行动准则：“委曲周旋，但求外敦和好，内要自强。”他在淮军中首先更新武器装备，将在安庆建军时的小枪队、抬枪队、刀矛队完全革掉，换成欧洲洋枪。仅此一项，就使得淮军的战斗力迅速上升，超过以前两倍以上。然后，他又在亲兵营中增设两百名炮兵，组建了中国近代第一支炮兵部队，至苏常战事结束之时，淮军炮队已有六个营之多。
李鸿章此后大兴洋务实则从军务开始，先是从洋人手中批量购买枪炮，然后自己建厂生产所需弹药，制造各式武器。由军事而工商，由制器而萌生对西方其他事物的兴趣，然后全面学习借鉴，用以自强。如果说曾国藩是洋务运动筚路蓝缕的最早开创者，那么李鸿章则是其坚定不移的贯彻者、继承者与集大成者。
虹桥之战关系上海安危，首战获胜，李鸿章信心倍增，乘机扩大战果，大举西进。在一年多的时间里，连克青浦、嘉定、常熟、太仓、昆山、江阴等城。
淮军兵锋所指，似乎无往而不胜。在一系列攻城略地的凯歌声中，李鸿章那与生俱来的“痞子”性格——无信无赖、痞劲痞味、痞腔痞调不禁暴露无遗，太仓城破，他下令围杀太平军一万多人 ;攻克昆山，擒杀淹死太平军约三万人，李鸿章竟将如此“惨劫”视为“快事”;特别是苏州杀降，更是将他推到了人性的审判台上。
太平军驻守苏州的纳王郜永宽主动请降，并在城北洋澄湖的一只船上议订降约。淮军将领程学启立誓，常胜军首领戈登担保，郜永宽等人承诺杀死慕王谭绍光后率众来降，若用后世的观点来看，也算得上是起义投诚了。有过如此一番仪式，双方自然要遵守契约。商场如战场，战场也如商场，尽管明争暗斗，但可资依循的总的规则还是有的，比如双方订约，就得恪尽信守之责，否则后患无穷。当郜永宽等人如期献上谭绍光首级开城投降后，李鸿章却以降众太多，如果不杀掉首脑，任其上下联络，必将防不胜防为由，将受降的太平军郜永宽等八王全部杀掉。在人权、公法大行其道的西方社会，人们往往将荣誉与信义看得比生命还要重要，当作证担保的戈登听说杀降消息后，第一个反应就是“深感耻辱和极度伤心”;接着是大为愤怒，情不能持 ;然后是发誓要为冤死者报仇，杀掉背信弃义的李鸿章、程学启，以及“实际上他怀疑参与将诸王斩首和苏州屠杀的任何中国官员”。戈登想用两艘轮船捕捉李鸿章没有成功，便写了一封西人所谓的哀的美敦书，也就是最后通牒，要求李鸿章辞职，交由清廷审判，否则，他将兴兵强制清廷将攻克之地归还太平天国。据传，戈登曾携一杆短铳，四处寻觅李鸿章，要与他来一场私人对决，就像西人解决争端的古老方式那样。“鸿章避之，不敢归营。数日后，怒渐解，乃止。”