隋炀帝第一次进攻高丽，被打得大败。一百万隋军兵士，逃回来的不到三千人。沉重的惨败，这个暴君仍不死心。大业九年（公元613年），他又发动第二次对高丽的进攻。他亲自率领大军攻打辽东，派大臣杨玄感在后方黎阳督运粮草。
杨玄感的父亲杨素，原是隋炀帝的亲信，帮助炀帝夺取皇位。因杨素功高盖主，杨广想除掉他，便设宴同杨素太子杨昭一起喝酒。有一杯毒酒是给杨素准备的。但宫人弄错了，毒酒被太子喝了。三天之后，毒性发作，太子临死前说：“想不到我替杨素死了。”杨素知道后，郁郁不乐地死去。杨玄感恨透了隋炀帝，这一回看到局势混乱，就想利用这个时机推翻隋炀帝。
杨玄感用督运粮草的名义，征发了年轻力壮的民伕、船工八千多人，要他们运粮到辽东前线。那些年轻人怨透了劳役，听说叫他们远离家乡去干苦差使，更加气愤。
有一天，杨玄感把民伕集合在一起，说：“当今皇上不顾百姓的死活，让成千上万的父老兄弟死在辽东，这种情况不能再忍受下去。我也是被逼来干这件事的。现在我决心跟大伙一起，推翻暴君。你们愿意跟我一块起兵造反吗？”
大伙儿一听有人带头反对朝廷，怎么不愿意，顿时响起一片欢呼声。杨玄感见状，深受鼓舞，当下同王仲伯、赵怀义一起商议整编队伍。
杨玄感把八千民伕编成队伍，发给武器，准备进攻隋军。他发现他身边缺少一个谋士帮他出谋划策，不禁想起了正在长安的好朋友李密。
李密的上代是北周和隋朝的贵族，父亲是隋朝有名的武将，被封为薄山公。李密少年时候，被派在隋炀帝的宫廷里当侍卫。他生性灵活，在值班的时候，左顾右盼，被隋炀帝发现了，认为这孩子不大老实，就免了他的差使。李密并不懊丧，回家以后，发愤读书，决定做个有学问的人。
有一回，李密骑了一条牛，出门看朋友。在路上，他把《汉书》挂在牛角上，抓紧时间读书。正好宰相杨素坐着马车在后面赶上来，看到前面有个少年在牛背上读书，暗暗奇怪。
杨素在车上招呼说：“哪个书生，这么用功啊？”李密回过头来一看，认得是宰相，慌忙跳下牛背，向杨素作了一个揖，报了自己的名字。杨素跟李密亲切地谈了一会儿，觉得这个少年人很有抱负。回家以后，杨素跟他儿子杨玄感说：“我看李密这孩子的学识、才能，比你们几个兄弟强得多。将来你们有什么紧要的事，可以找他商量。”从那以后，杨玄感就跟李密交上了朋友。
杨玄感想起他父亲的叮嘱，就派人到长安，把李密接到黎阳来。李密到了黎阳，杨玄感向他请教：要推翻隋炀帝，这个仗该怎么打法。李密说：“要打败官军，有三种办法。第一，皇上现在在辽东，我们带兵北上，截断昏君退路。他前有高丽，后无退路，不出十天，军粮接济不上，我们不用打也能取胜，这是上策。第二是向西夺取长安，抄他们的老巢。官军如果想退军，我们就拿关中地区做根据地，凭险坚守，这是中策。第三是就近攻东都洛阳。不过这可是一条下策。因为朝廷在东都还留着一部分守兵，不一定能很快攻得下来。”
杨玄感听完这三种计策，却认为李密说的下策是上策，以为攻下洛阳，可以动摇东征的军心。当即决定进兵洛阳，让他弟弟杨玄挺为先锋。杨玄感的反朝廷队伍，迅速得到拥护，很多士兵和百姓来投奔，短时间便达到5万人。但是，洛阳守军听到消息，加强防守，而且洛阳城本身修得非常坚固，杨玄感久攻不下，造成僵局。在这种形势下，杨玄感采取了李密的中策，放弃洛阳，去攻长安。
不久，杨玄感的队伍已发展到10万人。他率领10万人马，向长安进军，路过弘农（今河南省灵宝）时，弘农太守杨智积（杨广叔兄弟）站在城楼上大骂杨玄感。他这样做的目的，是想拖住杨玄感，不让他攻占长安。杨玄感不知是缓兵之计，命令兵士攻城，李密看出问题，说：“我军目的是西进长安，兵贵神速。追兵就在后面不远，怎能在此逗留？如果不能迅速占领潼关，追兵赶到时，退无可守，就非常危险了。”
杨玄感不听李密的劝阻仍下令攻城。就在这时，追兵赶到，杨玄感这才命令撤军西进，可惜已经来不及了。追兵数量多出好几倍，把杨玄感的队伍切割成小块包围，以多胜少，杨玄感大败。他和弟弟杨积善逃到一个小地方叫葭芦戍，面对荒凉的景色，杨玄感悔恨交加，对弟弟说：“我后悔没听李密的话，落到今天这一步。我不能让他们杀戮，你把我杀了吧！”
杨积善无奈，举刀刺死杨玄感，然后自杀。但未杀死，追兵赶到，将他抓获。
隋炀帝从辽宁省东返回后，下令焚毁杨玄感的尸体，又把杨玄感的弟弟全部杀死。杨广怒气未消，对御史大夫裴蕴说：“杨玄感造反，随从者达十万之众，看来天下人太多了，如不多杀一些，就不能惩戒后人！”斐蕴等人疯狂的大开杀戒，凡是与杨玄感沾点边的，全部处死，累计有3万人；还有6000人被发配边境。
这次杨玄感造反失败，战斗中死伤的和受株连被杀被流配的人数远远超过十万之众，损失惨重。作为隋朝高官，杨玄感无论是出自个人的恩怨，还是国家的前途，他率民众奋起反隋的精神都是难能可贵的。在此之后，各地的起义军不断攻打隋军，隋王朝处于摇摇欲坠之中了。