武德元年十一月李世民消灭西秦霸王薛仁果，不久安修仁出使大凉，瓦解甘肃的李轨政权，至此大唐消灭了位于长安西北的两大割据势力，李渊从此再无“卧榻之侧有他人酣睡”的顾虑。此时的大唐可谓天时地利人和，占据长安牢据关中，政治上享有得天独厚的优势，南取巴蜀天府之国，粮草兵器取之不尽，东可依渭河、黄河、洛河向关外输送粮草，再加上关中人才济济，因此李渊完全有自信兵出潼关与天下英雄一较高下。
李世民
按照李渊的战略部署，关中巩固后即是兵出洛阳的时机，早在武德元年，李渊已命李世民担任陕东道大行台，河东、河北两地兵力并受其节制，不久又命李世民镇守长春宫，准备出兵关外的事宜，可见其东征战略早已部署完成。然而任谁也没想到的是，此时大唐的龙兴之地却出现重大变故，那就是割据马邑的刘武周于此时南下，也要参与中原争霸。
刘武周南下之势可谓摧枯拉朽，镇守太原的李元吉先后坑掉张达、刘德威两员大将后携带家眷逃回长安，太原城很快成为刘武周南下的重要据点，同时刘武周大将宋金刚率三万之众南下，连克晋州进逼绛州攻陷龙门，并于澮州大败前来救援的裴寂大军；随着唐军节节败退，山西大部落入刘武周统治之下。除了刘武周，此时山西还有两股割据势力，一股是镇守河东城的隋朝将领王行本，另一股是响应刘武周的夏州农民起义军吕崇茂，三大势力瓜分了山西。
宋金刚手下大将尉迟敬德
面对突如其来的变故，李渊父子不得不暂时搁浅出兵中原的计划，转而先收复山西，武德二年十一月，李世民大军趁黄河结冰从龙门渡河陈兵柏壁与宋金刚对峙，唐军收复山西之战正式展开。面对宋金刚，李世民并没有急于建功，而是采取他常用的疲兵之法；当时整个山西尤其是河东州县由于连年征战(自大业十三年唐军绕过河东始，河东城一直在隋朝将领的统治之下，而大唐也一直未停止对其用兵)各地已无粮可征，百姓也因长期处于战乱之中，内心惶恐不安，因此大军于河东很难得到百姓拥护。
军情如此，李世民下令坚壁不出，分出小股部队四处劫掠宋金刚运粮部队，目标很简单就是耗尽其粮草达到不战而屈人之兵的目标。在与宋金刚部、王行本部发生几次小规模冲突后，唐军先后取得两次胜利部队士气大涨，将领们纷纷要求主动出击，然而李世民却持否定态度，他认为“宋金刚悬军深入，与太原的刘武周战线拉得太长，补给很难跟上，因此用不了多久宋金刚就会粮尽计穷，主动逃跑，到时我军乘胜追击，不战而屈人之兵”。李世民为何会认为宋金刚不久会粮尽计穷，难道他不知道太原城有的是粮食吗？
攻城战
太原城确实有粮，而且还很多，据《旧唐书》记载，李渊曾用“食支十年”来形容太原城粮仓之丰足，因此刘武周不缺粮。山西地势特殊，东边有太行山脉西边有吕梁山脉，中间是汾河冲积的狭长平原，李渊晋阳起兵时就曾借汾河运输粮草；所以刘武周完全可借以上有利条件支持宋金刚打持久战。因此要制造李世民所谓的“悬军深入”的战争态势就唯一办法就是切断刘武周与宋金刚的联系。
此时有一个地方就显得尤其重要了，那就是浩州(汾阳)，据《大唐创业起居注》记载，李渊晋阳起兵后第一次战就是拿下此城，这是唐军南下的必经之路，也保证粮食供给的重要基地，因此欲巩固山西之统治必须掌握此城；其实早在刘武周攻占并州前就已屡派大军进攻此城，其中一次宋金刚带队打了十几天也未攻下，后来唐太常少卿李仲文带千人驰援该城，形势终于稳定了下来。
汾阳城地处山西腰部
浩州的稳定基本上奠定宋金刚“悬军深入”的战略劣势，刘武周当然不甘心因粮食问题断送来之不易的战果，武德三年二月，刘武周转头进攻潞州，企图打通山西与河南的通道，接引王世充大军西援，但同样被唐军击败。眼看宋金刚粮食告罄，刘武周再次掉头进攻浩州，李仲文不负众望，击退武周大军还俘斩千人；在不到一个月的时间里，刘武周东西进攻均没有打通与宋金刚粮食通道，最终“宋金刚军中食尽；丁未，金刚北走，秦王世民追之。”
在收复山西的战争过程中，虽然主要战场在柏壁与绛州附近，然而事关全局的却是山西中部的浩州之争，任谁也没想到就在山西诸郡纷纷举城投降的大趋势下一个名不见经传的太常少卿会成为整个战局的关键人物，在大唐诸多名将纷纷败北的情况下他依然顶住刘武周的疯狂进攻，守住山西唯一一座孤城，切断的宋金刚的粮草供给。
大唐天子李渊
李仲文是早期于关中支持李渊起义的割据势力之一，大唐建国后封为太常少卿，山西收复之战，李渊派他出河东支援唐军，然而第一仗他却没有打好，成为刘武周的阶下囚，后来借机逃回，李渊仍命其河东带兵阻击刘武周南下；就这样在经历失败后的李仲文逐步成为独当一面的将军，除了成功稳定浩州局势外，为了保证唐军右翼的安全他带兵主动出击离石，武力震慑割据石州的刘季真，迫弃放弃与刘武周合兵的意图。
刘武周宋金刚兵败逃回突厥后，李渊意识到要想统一中原必须保障北方安全，像太原这样重镇必须派遣一位得力的干将守卫，这样大军才能无后顾之忧；李仲文的表现无疑引起了李渊父子的注意，就在李世民大军撤出山西时李仲文被委以镇守并州的重任，并数次击退突厥的入侵，不久李渊下诏令李仲文检校并州总管，这样李仲文从一个四品闲职成为镇守一方的大区司令。