杨玄感，有勇有谋，骑马射箭样样精通！除了武艺，他还十分喜欢读书，人品又好喜欢广交朋友，与海内外很多有识之士都有来往。李弼的曾孙李密与他的交情更是没得说。杨玄感年轻时就表现出非凡的气质，胸怀大志。视金钱如粪土，结交了不少名人名士，时任左亲侍。
杨素仗着自己的功勋，在宴会上多次不顾君臣礼节，隋炀帝心中极为不满。杨素似乎也觉察到隋炀帝不是很待见自己。杨素去世后，隋炀帝对身旁的侍臣说：“如果杨素依旧那样目无尊卑即使不死，也难逃诛九族的下场。”通过隋炀帝的话，杨玄感清楚的认识到自己位高权重的危险性。本来家里好几代都是显官贵族，朝廷中的文武大臣多半当年也追随过他父亲。如今朝纲一天天败坏，炀帝对自己也心存猜疑，杀他以绝后患是迟早的事。于是，杨玄感就找到他的几个弟弟密谋造反。恰逢炀帝准备讨伐高丽，杨玄感主动请缨：“我家世世代代蒙受国恩，无以为报，请陛下任命我为此次讨伐的将领吧！”炀帝非常高兴，说：“将门必出将，有其父必有其子，一点都不假。”杨玄感也越来越受到炀帝的宠信，更多的参与到朝政中去。
隋炀帝带兵征伐高丽，任命杨玄感负责在黎阳军备物资的督运。杨玄感趁机联手虎贲郎将王仲伯、汲郡赞治赵怀义等人故意迟滞漕运，让军粮迟迟不能送达已经渡过辽河的各路隋军手中。炀帝派人催促，杨玄感谎称最近水路盗贼猖獗，这才耽误了漕运的时间。杨玄感的弟弟杨玄纵和杨万石，已先行渡过了辽河，杨玄感立即派人暗中安排他们回来。逃到高阳的杨万石被监事许华抓获，最后杀死在涿郡。
右骁卫大将军来护儿从东莱出发，率领大批水军从海上攻击平壤。杨玄感让家奴乔装成使者，谎称得知来护儿要谋反特意从东方赶过来。六月初三，杨玄感进驻黎阳。先是将城门紧闭，接着又在城中大量征集男丁入伍，还用帆布制作了大量的头盔和铠甲。又按隋文帝开皇年间的旧制，任命了一批官员。他以讨伐来护儿的名义向附近各个州郡发放文书，命令各郡纷纷起兵并在黎阳仓集结。杨玄感又以运粮的名义，将各州郡中一些有才能的聚集在一起。随后任命赵怀义为卫州刺史，元务本为黎州刺史，河内郡主簿唐为怀州刺史。
时任治书侍御史的游元现在黎阳负责督运军粮，杨玄感对他说：“隋炀帝暴虐成性，实属自作孽不可活，这一次真的是上天都要灭他。我征集了大量兵马，亲自率领着前来诛杀昏君，不知您怎么看？”游元脸色有点不对，说：“众所周知，您的父亲深受朝廷宠信，无人能比。你们弟兄几个各个都位高权重，本应该怀着图报的心为国效力，没想到您父亲刚去世不久您就起兵造反。恕我誓死也难从命啊！”杨玄感一怒之下将游元关了起来，虽屡次以武力相要挟，游元依然不屈服于他，无奈只好杀了他。游元是游明根的孙子。
杨玄感从运送军粮的农夫中挑选了五千多个身强力壮的，又从丹阳、宣城的船夫里挑了三千余人，杀三牲誓师。他说：“当今皇帝昏庸无能不知百姓死活，致使天下战乱不断，辽东一战就死了成千上万的人，今日我们起兵讨伐，拯救处于水深火热中的百姓们，怎么样？”大家纷纷响应高呼万岁。于是，杨玄感做了军队的统帅，并将兵马部署安排好。
怀州刺史唐偷偷从杨玄感的军中逃回到河内，随后派人通知驻守东都的越王杨侗和樊子盖做好防御的准备。于是，修武县的百姓们把守在临请关致使杨玄感的军队无法过关。无奈之下，杨的军队只要由汲郡向南渡河，所到之处不断有人前来投靠。杨玄感派弟弟杨积善率兵三千，从偃师以南出发一路沿洛水从西面进军，杨玄挺则从白司马坂出发，越过邙山后从南面进军。杨玄感率领三千余人紧随其后，前后距离不过十余里。虽然自称大军，可杨玄感的士兵个个手执简陋的兵器，也没几件像样的盔甲。
东都任命河南令达奚善意率五千精兵抵御杨积善，将作监和河南赞治裴弘策率八千精兵抵抗杨玄挺。达奚善意渡过洛水，驻扎在洛水南边的汉王寺。第二天，杨积善和达奚善意的军队激烈交战，达奚善意不战自溃，被对方缴获了大量的铠甲和武器。裴弘策随后也率军到达白司马坂，与杨玄挺的军队刚一交手就丢盔卸甲，溃不成军，杨玄挺也没有乘胜追击。裴弘策后退了三四里重整了下队伍，再次列阵等待杨军。杨玄挺率军不紧不慢的赶到并不着急开战，先让士兵们休息了很久很久。忽然杀了隋军一个措手不及，裴弘策来不及防备，又败下阵来。双方共交战五次。十四日，杨玄挺领兵直逼太阳门，裴弘策带着仅有的十余名骑兵逃入宫城，至此裴弘策的军队全部归降了杨玄感。
韦的侄子韦福嗣奉命率军抗击杨玄感，结果被俘虏。杨玄感对他以礼相待，还任命他与亲信胡师耽一起掌管公文信札。杨玄感让韦福嗣将隋炀帝的种种恶行写信给樊子盖。信中说：“现如今，我推翻昏君拥立明君的想法已成事实，希望您不要在一些细节上过于纠缠，自寻烦恼。”由于樊子盖是刚从外地调入东都做官，东都的很多官员都怠慢于他。很少向樊子盖汇报请示关于军事部署方面的问题。裴弘策和樊子盖同一批被朝廷任命的官员，鉴于上一次讨伐杨玄感失利，樊子盖又派裴弘策出战。裴弘策死活不肯，樊子盖认为他不服从军令，直接将他斩首示众。
国子监祭酒河东人杨汪因为一点小事得罪了樊子盖，樊子盖就要杀掉杨汪，杨汪跪地叩头求饶，直到脑袋磕出血来樊子盖才饶了他。东都的将领官吏们得知此事，极为震惊，再也不敢不把他放眼里了。樊子盖执法严格在东都是出了名的。杨玄感孤注一掷，发动全部精兵攻城，樊子盖相时而动，有效阻击了杨玄感的军队。东都军队中有一些人是达官贵族的后代，听说裴弘策被处死个个吓得不敢进城。像韩擒虎的儿子韩世、观王杨雄的儿子杨恭道、虞世基的儿子虞柔、来护儿的儿子来渊、裴蕴的儿子裴爽、大理卿郑善果的儿子郑俨、周罗的儿子周仲等四十余人都先后归降了杨玄感。杨玄感将一些原本由自己亲信担任的职位都授予了他们。郑善果是郑译的侄子。
不久，杨玄感又征集到五万士兵。他安排五千士兵把守慈道、五千人把守伊阙道，又派三千士兵由韩世率领围攻荥阳。顾觉率领五千人攻打虎牢，俘获虎牢全部敌军。杨玄感任命顾觉为郑州刺史，把守虎牢。
辽东城久攻不下，隋炀帝派人做了一百多万个布袋分发给将士们。要求他们将每个布袋装满土，然后用装满土的布袋堆积成与城墙一样高的坡道，踩着攻城。他又命手下制作比城墙还高的八轮楼车设置在坡道两旁，用来攻击城内的敌人。一切准备妥当，隋军马上就要攻入城，城内更是一片危在旦夕的样子。就在这时，关于杨玄感要谋反的公文到了，炀帝看后惊恐万分，便宣纳言苏威来到军帐商议，说：“杨玄感是个很聪明的人，这一次我怕是凶多吉少。”苏威却说：“聪明的人对是非成败都有自己的判断力，杨玄感平时粗心大意，陛下不用担心。但是，他牵头造反的事演变成动乱，那后果就不堪设想了。”炀帝又听说朝廷内一些达官贵族的子弟也投奔了杨玄感，心里就更加担忧起来。
兵部侍郎斛斯政和杨孝感私底下交情很好，这次杨玄感谋反他没少参与策划，包括之前杨玄纵兄弟逃回内地都是他暗自护送的。炀帝打算追查杨玄纵等党羽，斛斯政怕东窗事发，于二十六日逃投奔了高丽。二十八日夜二更时分，炀帝忽然召集诸将商议军事。令所有人吃惊的是，炀帝下令让将领们率军撤退。至于战略物资、兵器战车、营帐都保持原样，不随军队撤走。消息传达下去后，隋军人人惊慌失措，但无奈军队战略安排已经乱套了，各路人马只好各自散去。高丽方面很快觉察到情况不对，但又不敢出城一探虚实，每天只是在城内擂鼓呐喊。直到第二天中午，高丽才派兵出城侦察，毕竟还是不能相信隋军撤退的消息。又过了两天，高丽派出几千名士兵从后面追踪隋军，怕隋军可能会杀个回马枪高丽军也不敢靠的太近，常常相隔八、九十里。快到辽河时，高丽人得到确切消息隋军已经渡过了辽水，这才放心大胆地逼近隋军后部。隋军当时后部的几万人被高丽军包抄袭击，几千名老弱病残的隋军被高丽军杀掉。
炀帝派陈棱率军前往黎阳攻打元务本，又派左翊卫大将军宇文述、右候卫将军屈突通用驿站的传车发兵讨伐杨玄感。抵达东莱的来护儿闻知杨玄感围困东都，便召集部下主要大将，商量班师回朝救援东都。诸将认为，即使班师回朝也要有皇帝的命令才是，不可妄自做主。顾忌这一点，大家都不服从来护儿的命令。来护儿怒声说道：“我们抗拒王命，擅作主张那都是小事，要是洛阳失守了，那可就是脑袋搬家的大事。现在我们明知国家有难，岂能坐视不管？若皇帝怪罪下来我一个人承担罪责，和你们没有关系。只管听从我的命令就是，有违军令者军法伺候！”第二天，来护儿便班师回朝了。回到洛阳，来护儿命令儿子来弘、来整骑马进宫报告炀帝。当时，炀帝已经回到涿郡，正准备下令让来护儿回朝救援东都。见到来弘、来整来报非常高兴。在赏赐给来护儿的玺书中说：“实在没有想到，你回朝之日也是我下令之时，你我意见不谋而合，实在是默契啊。”
在此之前，右武候大将军李子雄曾因犯罪而被除名，现奉命效力于军中。在东莱时他跟随来护儿遭到炀帝怀疑。于是，隋炀帝下令将给他戴上性具，押解到朝廷。李子雄直接杀死了隋炀帝派来的使者，投奔了杨玄感。卫文升率领两万步、骑兵人渡过辽水，与杨玄感率领的军队抗衡。身先士卒，所向披靡恶的杨玄感多次打败卫文升。同时，杨还深谙如何安抚手下，因此大家都死心塌地的为他效力，每次出战自然就攻击力超强。杨玄感率领的兵马愈来愈多，一度达到十万人。而卫文升势力单薄，人力物力都损失过半，只好率军进驻到邙山的南面打算与杨玄感决一死战。一日内，双方交锋十余次杨玄感也处于上风。由于杨玄挺被流箭射死，迫不得已，杨玄感的军队选择了后退。
十月十一日，刘元进从余杭一带起兵响应杨玄感。刘元进相貌非常奇特，手有一尺多长，胳膊垂下来之后能超过膝盖。自认为相貌不同寻常，便暗中图谋不轨。恰逢炀帝再次要征兵讨伐高丽，三吴之兵相互抱怨着说：“想当年国家正值鼎盛时期时，我的父亲兄弟就出战高丽直到现在还没归来。现如今国家连年征战疲惫不堪，却还要征集男丁前去讨伐高丽，我们这一代人怕是要灭绝了啊！”大多数人都直接选择了逃亡。郡县官吏奉命到处捕捉逃亡的人，逃亡的人得知刘元进要起兵，一窝蜂的全投奔了他。不费吹灰之力，不足一个月刘元进的部下就达到几万人。
李子雄劝杨玄感赶紧称帝，杨玄感就此事去问李密。李密说：“我记得当年陈胜打算自己称王，张耳规劝他却遭到排挤，曹操打算让皇帝加赐他九锡，荀上前劝说却遭暗害。如今我也面临同样的处境，只怕下场与张耳和荀二人无异。可我也不是阿谀奉承之人。至于我敢劝说你是有原因的，你想想看，虽然起兵以来我们战绩卓著屡战屡胜，可郡县一级的官员无人响应。东都目前还有很强的防御能力，四面八方的援兵也纷至沓来，我还是劝您而出，浴血奋战，争取早日平定关中。等到高枕无忧之时再称帝也不迟。如果你现在真这么做了，那只能让人觉得你目光短浅，胸无大志罢了！”杨玄感听后欣然大笑，称帝之事就作罢。
