李渊把刘文静从晋阳牢监里放了出来。刘文静帮助李世民，分头招兵买马。李渊又派人把正在河东打仗的另两个儿子李建成和李元吉召了回来。
太原的两个副留守看到李渊父子的举动反常，想出来阻挠。李渊借口他们勾结突厥，把他们抓起来杀了。
李渊又听从刘文静的计策，派人备了一份厚礼，到突厥可汗那里讲和，约他一起反隋。突厥可汗觉得这样做对他们有好处，就答应帮助李渊。
李渊稳住突厥这一头，就正式起兵反隋。李渊自称大将军，派李建成和李世民分别做左右领军大都督、刘文静做司马，又把兵士都称为“义士”。他们带领三万人马离开晋阳，向长安进军。一路上继续招募人马，并且学农民起义军的做法，打开官仓发粮给贫民。这样一来，应募的百姓就越来越多了。
唐军到了霍邑（今山西霍县），遭到隋朝将军宋老生的拦击。霍邑一带道路狭隘，又正赶上接连几天大雨，唐军的军粮运输中断了。兵士中还纷纷传说突厥兵正准备偷袭晋阳。李渊动摇起来，想撤兵回晋阳去。
李世民对李渊说：“现在正是秋收季节，田野里有的是粮食，哪怕缺粮！宋老生也没有什么可怕。我们用义兵的名义号召天下，如果还没打仗就后撤，岂不叫人失望。回到晋阳，是断断没有生路的。”
隋洛阳城城墙遗址李建成也支持他弟弟的主张。李渊这才改变了主意，取消了撤兵的打算。
八月的一天，久雨刚刚放晴。唐军一早沿着山边小路，急行军来到霍邑城边。李渊先派建成率领几十个骑兵在城下挑战。宋老生一看唐军人少，亲自带了三万人马出城。李世民带兵居高临下从南面山头冲杀下来，把宋老生的人马冲得七零八落。宋老生急忙回头想逃回城去。李渊的兵士已经占了城池，把城门关得紧紧的。宋老生走投无路，被唐军杀了。
唐军攻下霍邑以后，继续向西进军，在关中的农民军的配合下，渡过黄河。留在长安的李渊的女儿也招募了一万多人马，号称“娘子军”，响应唐军进关。
李渊集中了二十多万大军攻打长安。守在长安的隋军，要想抵抗也没用了。李渊攻下长安以后，为了争取民心，宣布约法十二条，把隋王朝的苛刻法令一概废除，并且暂时让隋炀帝的孙子杨侑做个挂名的皇帝。
第二年（公元618年）夏天，从江都传来了隋炀帝被杀的消息，李渊才把杨侑废了，自己即位称帝，改国号为唐。这就是唐高祖。
唐太宗李世民
李渊占领长安的同时，各地起义军也不断发展壮大。除了瓦岗军之外，主要的还有窦建德领导的河北起义军和杜伏威领导的江淮起义军，不断在各地打击隋军。残暴荒淫的隋炀帝自己知道末日来到，索性躲到江都，每天和皇后、妃子喝酒作乐，醉得昏昏沉沉。
他不愿听到失败的消息，但是心里到底发慌，对萧皇后说：“听说外面有不少人想算计我，且别管他，还是快快活活喝酒吧。”
唐太宗像有一次，他拿起一面镜子，呆呆地照了半晌，说：“好头颅，不知道谁来砍它呢！”
隋炀帝担心的日子终于到来了。他身边的一批禁卫军兵士，多数是关中地区的人。他们眼看跟着隋炀帝没有生路，都想开小差回家。将军宇文化及利用兵士想回家的心理，发动兵变。宇文化及带领兵士，攻进行宫，派人把隋炀帝监视起来。
隋炀帝对监视的官员说：“我犯的什么罪？”
官员说：“你发动战争，穷奢极侈；相信奸邪，拒绝忠告；使男子死在战场，妇女儿童走上绝路，百姓流离失所，你还说没罪吗？”
隋炀帝说：“我确实对不起百姓，但是你们这些人也跟着我享受富贵，没对不起你们。今天这样做，是谁带的头？”
官员说：“全国的人都恨透你这昏君，哪儿是一个人带的头！”
隋炀帝这才无话可说，他自己解下巾带交给官员。这个作恶多端的统治者就这样被勒死了。统治中国三十七年的隋王朝宣告灭亡。
隋炀帝死后，东都洛阳还在隋朝的东都留守杨侗和大臣王世充手里。王世充把杨侗立为皇帝，继续打着隋朝的旗号，对抗起义军。
东都周围本来是瓦岗起义军活动的地区，李密曾经多次打败隋军，但是因为李密骄傲自满，跟将领们互相猜忌，在跟北上的宇文化及人马打了一仗之后，力量渐渐削弱。王世充看准李密的弱点，发起一次袭击，打垮了李密大军。李密带着残兵败将，逃到长安投靠唐朝。
王世充赶跑了李密，自以为力量强大，把杨侗废了，自立为帝，国号叫郑。
这时候，唐军已经削平了西北的几个豪强割据势力，稳定了后方。公元620年，唐高祖派李世民统率大军进攻东都。李世民大军一出关，河南许多州县纷纷投降，很快就把东都包围起来。
秦王破阵乐图李世民不但善于打仗，而且善于用人。他从原瓦岗军和别的割据势力的降将中，收留了一批人。像有名的秦叔宝、程咬金、尉迟敬德，都成了他的得力助手。有一次，李世民亲自带了五百骑兵在阵地上巡视，被王世充发现，发动一万多步兵骑兵突然围上来，王世充的大将单雄信冲到李世民身边，用长矛直刺过来。李世民后面的尉迟敬德飞马赶上，大喝一声，把单雄信刺下马来。尉迟敬德保护李世民突出包围，两个人又带着骑兵转过身在郑军阵地来回冲杀，吓得郑兵不敢阻挡。接着，后面的唐军源源不绝地上来，把郑军打得一败涂地。
从这年秋天一直到第二年春天，唐军把东都越围越紧，日夜不停地攻城。王世充在城里严密防守，不断用石炮、弩箭袭击城外唐军。日子一久，唐军将士也感到疲劳，有人向李世民建议暂时停止进攻，回长安休整后再打。
李世民说：“现在四周各州都已经投降，洛阳成了一座孤城，迟早可以攻下，怎么能半途停下来。”接着就向将士发出命令说：“不攻下东都，绝不退兵。”
王世充被逼得走投无路，只好派人偷偷地出城，赶到河北向窦建德求救。
窦建德领导的起义军是河北一支强大的力量。王世充自称郑帝以后，窦建德也自称皇帝，国号叫夏，攻占了唐军许多土地。他接到王世充的求救信，一面带领三十万人马，水陆并进，援救东都；一面派出使者给李世民送去一封信，要李世民退回关中。
唐军许多将军都被夏军的强大兵力吓得害怕了，主张暂时离开东都。但是有人认为王世充兵力还很强，缺少的是粮食。如果让窦建德跟王世充两军会合，用河北的粮食接济东都，那末胜利就没有希望了。所以，一定要把南下的窦建德大军堵住。
李世民接受了这个意见，把李元吉留在东都继续围攻王世充，自己带三千多精兵北上，扼守武牢关。
窦建德大军到了武牢关，被唐兵拦住，夏军发起几次进攻都没成功，李世民却派轻骑兵抄小路，把夏军的粮道切断了。
窦建德认为自己兵力强大，不怕攻不下武牢关。他拒绝了他部下和妻子的劝阻，命令全军出动，摆开阵势，鼓噪着冲了过来。
李世民上高地观察了夏军的阵势，说：“窦建德没有遇到过强大的敌手，从他的阵势，就可以看出他骄傲轻敌。我们只要按兵不动，等待他们兵士疲劳的时候，一举出击，一定能打败他们。”
夏军兵士摆开阵势，准备交锋。但是，从早上到中午，还没有见唐军出来交战，兵士们又疲劳，又饥饿，有的坐在地上，有的到河滩上舀水喝。李世民一见时机已到，就命令将士渡过汜水，直冲窦建德大营。
窦建德正和他的将帅在大营聚会，听到唐军骑兵突然冲来，赶忙指挥骑兵应战。双方发生了激战，阵地上尘土飞扬，箭如雨落。
李世民乘夏军不防备，带领一支队伍猛插到夏军阵后，举起了唐军的大旗。夏军将士回头一看，以为唐军已经占领大营，没有心思再战，争先恐后地逃散。窦建德在混战中受了伤，被唐军俘虏了。
窦建德失败后，李世民再回兵围攻东都。王世充还想突围，将士们说：“现在夏王已经失败，我们就是突围出去，也没有用。”王世充眼看大势已去，只好向唐军投降。
窦建德被送到长安，不久就被杀害，他的部将刘黑闼率领河北夏军，继续和唐军作战。唐军又花了三年时间，才把河北地区稳定下来。公元623年，唐统一中国的战争基本结束。但是，唐朝皇室内部的矛盾却尖锐起来。
夏王窦建德
窦建德，贝州漳南县（今河北故城东）人。年幼时，常干一些重许诺的义举。曾有一个同乡亲人去世，家里贫穷无法埋葬，当时建德正在田里犁地，听到这事后不禁叹息，突然中止犁地，把耕牛送去充作办丧事的费用，由此大为乡里所称道。起初，窦建德当里长，因犯法逃亡，遇上朝廷发布大赦令，又回到家乡。他父亲去世，送葬的有一千多人。所有送给他的礼物，他都推辞不受。
大业七年，朝廷募兵讨伐高丽，本郡挑选特别勇敢的人充当军队的小头目，于是委任窦建德做二百人长。当时太行山以东地区发生大水灾，百姓流散逃亡，同县有一个叫孙安祖的人，家被水淹，妻子儿女饿死。县里认为孙安祖骁勇，也选中他从军出征。孙安祖以家贫为由推辞，亲自向漳南县令报告，县令发怒鞭打他。孙安祖刺杀县令，逃到窦建德这里，窦建德安排他住下。这一年，太行山以东地区发生大饥荒，窦建德对孙安祖说：“隋文帝的时候，天下繁盛，朝廷征集百万大军征讨辽东，尚且被高丽打败。现今大水成灾，百姓穷困，而皇上不加抚恤，却亲自驾临辽水；加上往年西征，国家所受的创伤尚未平复，百姓疲弊，连年的兵役徭役，应征的人只去不回，现在又再次征兵，天下轻易就可以摇动。大丈夫不死，当窦建立大功业，岂可做一名逃亡的贼寇！我知道高鸡泊中广大，方圆数百里，有蒲草阻隔，可以避难，再趁机出来抢掠，足可以自己供给自己。你在那里可以聚集民众，观察时世的变化，将来定会为天下人立大功。”孙安祖赞成他的计划。窦建德招聚、引诱逃兵和没有产业的百姓，得到数百人，让孙安祖统率，入泊中当强盗，孙安祖自称将军。当时王义县人张金称也聚集百人，居于黄河的险阻之处；县人高士达又起兵反隋，有千余人，在清河县境内。当时各路盗贼往来于漳南的，所到之处都杀掠居民，焚烧住宅，唯独不进入窦建德的居里。因此郡县官猜测窦建德同盗贼交结，于是逮捕他的家属，不论长幼，全部杀死。窦建德听到他的家被杀绝的消息后，率领手下二百人投奔高士达。高士达自称东海公，让窦建德任司兵。后来孙安祖被张金称杀死，他的部队数千人又全归属窦建德。从此声势渐盛，军队达到一万多人，仍活动于高鸡泊中。窦建德常竭尽全力待人，和士兵一样干劳苦的工作，因此能使他人为他尽死力。
大业十二年，涿郡通守郭绚率领一万多名士兵来征讨高士达。高士达自认为智谋赶不上窦建德，于是让窦建德升任军司马，把军队全交给他指挥。窦建德初次统领全部人马，想立奇功以使盗贼们畏服，于是请高士达看守军用物资，自己挑选精兵七千人抵御郭绚，假装成与高士达有嫌隙而背叛他的样子。高士达又宣称窦建德背叛自己，带兵逃走，而且找来一个虏获的妇女，伪称是窦建德的妻子，在军中把她杀了。窦建德派人给郭绚送信，假装请求投降，说自己愿充当前锋，击破高士达，以此为郭绚效力。郭绚相信他的话，便领兵跟随窦建德到达长河县境，期望与他订立盟约，共同对付高士达。郭绚的军队更加松懈，毫无防备，窦建德乘机袭击，大破郭绚的部队，杀死、劫掠数千人，获得马一千多匹，郭绚带领数十名骑兵逃走，窦建德派手下将领在平原追上他，砍下了他的头献给高士达。从此窦建德的势力更加兴盛。
隋朝派太仆卿杨义臣率士兵一万多人讨伐张金称，在清河击破他，将所俘获的贼寇全部杀死，其余逃散在荒野之间的又聚集一起，投奔窦建德。义臣乘胜到平原，想进入高鸡泊中，窦建德对高士达说：“遍观隋朝将领，善于用兵的只有义臣一人而已。现在他新破金称，从远方来袭击我们，锋芒正锐不可当。我请求领兵避开他，让他想打又打不成，白白拖延岁月，那时战士疲倦，我们乘便袭击，便可建立大功。现在同他争斗以决胜负，恐怕您不是他的对手。”高士达不听他的话，于是留窦建德守营，自己率精兵迎击义臣，战斗取得小胜，高士达便设盛宴狂饮，有轻视义臣之心。窦建德知道这事后说：“东海公没有能破敌却骄傲自大，这样灾祸临头就不会很远了。隋军乘胜，一定会顺利地前进到这里，那时人心惊恐，我们怕不能自全。”于是留人守营，自己率领精锐士兵一百多人占据险要之地，以预防高士达的失败。过了五天，义臣果然大破高士达，在阵上杀死他，并乘势追击逃敌，准备围攻窦建德。窦建德的守兵既少，得知高士达失败，又全部溃散，窦建德带领一百多名骑兵逃跑，走到饶阳县，发现城里不设防，便攻陷了它，安抚士人百姓，人们多愿跟从，又得到士兵三千多名。
起初，义臣杀了高士达后，认为窦建德不值得忧虑。于是窦建德又回到平原，收集士达已战死的败兵的尸体，都加以埋葬。公布高士达逝世的消息，部队全穿白色丧服。招集已逃散的高士达士兵，得到数千人，军队再次振兴，开始自称将军。起初，各路盗贼获得隋朝官吏及山东士人都杀掉，只有窦建德每次得到士人，必定以德惠相待。最初得到饶阳县长宋正本，待为上宾，让他参与军政大事的谋议。这以后隋朝的郡县长官逐渐献城投降，窦建德军容更盛，有优秀的士兵十余万。
