武德元年(公元618年)五月，李渊在长安称帝，建国号唐。李渊称帝后，需要做的事就是着手全国的统一。平定天下之乱，他先后击败瓦岗军，以大势逼李密降唐。又出兵陇西，杀死薛举之子薛仁杲，解除了陇西的威胁。河西走廊不久也归属唐朝控制。河西解除了威胁，李世民又出兵击败刘武周，又取得河东。顺势瓦解了郑夏联盟，活捉了窦建德，背后失去支持的王世充深知大势已去，选择了投降。
战略要地被唐军占领，南方的江陵、岭南之地尽归唐朝管辖。后来的刘黑闼、辅公石、杜伏威、等众多反唐势力几乎被大唐清除了干净。此时的李渊也算是完成了统一大业。如今也只剩来自北方突厥的威胁了，不过李渊的韬光养晦手段用得好，已经稳住了突厥，除此之外，李渊还进行了一些政治改革，厘定官制和制定均田、租庸来稳定民心，收到了不错的效果。但是有谁可知，大唐定天下也并非一路顺风。李渊称帝的经过
四月，江都兵变，隋炀帝被宇文化及逼死，长安得到隋炀帝被杀的消息之后，李渊在大兴后殿举哀，尽臣子之礼。来收买忠于隋炀帝部将的心，后野心逐渐暴露，五月十四，隋恭帝深知大势已去被迫退位，逊居代王府。六日之后，李渊在大兴殿即皇帝位，改元武德，国号唐，以隋旧都长安为都城，以土运为德，崇尚黄色。
大唐的收尾工作
后李渊立长子李建成为皇太子，次子李世民为秦王，三子李元吉为齐王，宗室李白驹为平原王，柱国李道玄为淮阳王，蜀公李孝基为永安王，长平公李叔良为长平王，安吉公李神符为襄邑王，郑公李神通为永康王，柱国李德良为新兴王，上柱国李奉慈为勃海王，上柱国李博义为陇西王。出九月，韦义节攻隋河东尧君素，战事接连失利，李渊以独孤怀恩代之。
十一月二十二，双方在蒲坂展开激战，尧君素俘虏了李渊的女婿赵慈景，并将他斩首于城外。十二月，李渊令韦义节、吕绍宗、独孤怀恩轮番攻城，都未成功。迫于形势，尧君素写信系于自造的木鹅颈部，放到黄河中。木鹅顺流到河阳，守城人得后送到东都，隋皇泰帝杨侗视信连声叹气，但他也自身难保，无力增援。隋将庞玉、皇甫无逸从东都来降，李渊又派人去河东劝降尧君素，可他不听。又派尧君素妻劝降，被他射死。尧君素自知没有希望，但决心与城同存亡。后来城里粮食耗尽，出现人吃人的惨象。
初六、部将薛宗等杀尧君素之后投降。李渊以韬光养晦存身之计，在炀帝百般猜忌、大杀李姓时保存了自己的实力。任太原留守时暗中聚集力量，窥伺起兵良机，可谓老谋深算。
大业十三年(公元617年)春夏间，隋王朝已接近分崩离析，他看准时机，杀高君雅、王威，从太原起兵。南下途中，废除隋朝的苛捐杂税，军纪严明，注意笼络人心，受到各阶层人士的拥戴。论功行赏，不问出身，士卒的斗志得到了鼓舞；一部分军队围河东，主力军则抢先入关中，最后合击长安，这样的军事策略使李渊取得了最后的成功。至于举起拥戴杨侑这样的旗号，可以拉拢隋官僚势力；虽然暂时臣服于突厥，但是减少了后顾之忧，手段也算高明。
总之，他是推翻隋朝、建立唐朝的总指挥。王夫之评论说：“人谓唐之有天下也，秦王之勇略志大而功成，不知高祖慎重之心，持之固，养之深，为能顺天之理，契人之情，……非秦王之所可及也。”当然李世民资质聪慧，胆识过人，善于结交豪杰，特别是对李渊在作战指挥中的错误能够大胆纠正，战功卓著，在建唐中起了仅次于其父的作用。太子李建成在起兵后所显露的军事才能和战绩也不可小视。由此，李渊以关中为基地，开始了结束割据势力、统一全国的大业。