隋朝皇亲国戚，是隋文帝
杨坚、
独孤皇后的外甥，他的母亲是独孤皇后的妹妹。开皇八年（589年）跟随太子
杨勇、晋王
杨广伐陈，胜利后按照独孤皇后的要求斩首
张丽华。但是张丽华被杨勇救走，改名陈遗爱进入东宫。李渊睁一只眼闭一只眼，假装张丽华已经被斩首并上报朝廷。
做人质李渊在并州多次躲过了朝廷的怀疑。在大业十三年（617年），杨广被困江都，
李建成被扣在江都作人质，不过在红拂女的帮助下得以逃脱。彻底撕破脸皮的李渊起兵反抗隋朝，并迅速占领了长安，随后拥立杨广的孙子
杨侑当皇帝，改元义宁。李渊自封丞相。
李渊建立唐朝后剿灭反抗势力，在
秦琼、
罗成、
程咬金、尉迟恭、徐茂公等人的辅佐下打败王世充、刘武周、窦建德等人，逐步统一天下。可是李渊在继承人中一直犹豫不决，最终导致武德九年（626年），太子李建成、齐王
李元吉在
玄武门被李世民杀死，李渊宣布立李世民为太子，自己退位当太上皇。