从《新唐书》和《旧唐书》的记载来看，李渊是不太喜欢李世民，所以很早就将李建成立为太子。然而李世民的战功卓著，在军中颇有威望。加上他身边的谋士众多，为他出谋划策，最终于公元626年7月2日，发动玄武门之变，杀死了太子李建成和齐王李元吉。玄武门之变三天后，李渊下诏立秦王李世民为皇太子，并让他处理政务，三个月后李渊逊位，称太上皇。
唐高祖李渊
关于“玄武门之变”后，李渊当时的反应，从野史的记载来看，李建成被杀时，李渊还不知情，据说当时与嫔妃在水池中划舟嬉戏。李世民为了不惊动父亲，派尉迟恭去见唐高祖，说太子和齐王叛乱被杀。李渊听说以后大惊，然后抱头大哭，几次昏厥过去。其实，李渊当时很担心，两个儿子被杀，自身的性命可能难保。不过身边的大臣为他出谋划策，立李世民为皇太子，并让其处理政务。
处理政务这是第一步，三个月后，大臣商议让李世民代父称帝，于是纷纷上表，李渊只好退位。李渊退位虽然不情愿，但是大势已去，毕竟太子已死。当时李世民在朝廷的羽翼已经丰满，李渊不得不立他为皇太子，然后主动退位。李渊退位以后，开始住在太极宫，三年后迁居宫外的大安宫。
玄武门之变
在正史当中没有记录李渊退位后的生活，不过李渊退位以后与李世民的关系并不好，从《旧唐书·马周传》当中可以看出来。马周是山东茌平县人，幼年失去父母，家境贫寒而爱学习，精通文学经典，知识渊博而闻名。此人性格放荡不羁，做官屡次碰壁。后中郎将常何推荐，唐太宗李世民任命马周为监察御史。
贞观六年(632年)，马周成为监察御史后，向唐太宗呈递了一道奏疏，从其奏疏当中可知。当时太上皇李渊住在大安宫，而大安宫在皇宫外，住宅的规模也不大。太子的东宫在宫内，而太上皇却住在宫城外，从规格来看，太上皇的地位不如太子。马周认为，唐太宗怠慢了太上皇，希望将太上皇的住宅修建城墙和门楼，务必做到宏伟壮观，以彰显天子的孝心，做个好榜样。
唐太宗李世民
还有，唐太宗游幸九成宫时，马周也提到，太上皇年事已高。九成宫离京城300多里，来回长安要10天的行程。马周希望唐太宗侍奉在太上皇身边，早晚去问安，不要跑那么远。唐太宗去九成宫避暑，而把太上皇李渊留在炎热的房子里，独自跑到凉爽的地方去，外界都认为唐太宗不孝。
其实，从马周的奏疏中可以看到，唐太宗不太关心李渊的生活起居。外人其实也看出来了，太上皇与唐太宗之间的关系不太好。做臣子的，为了避免外人说闲话，所以才上书让唐太宗尽孝。从一些列传的记载来看，李渊的晚年生活基本待在自己的居所，人生自由被限制这是肯定的。李渊莫名其妙的做了太上皇，的确让人挺惋惜的。不过唐太宗即位以后，开创了贞观之治，也是不幸中的万幸。