李渊攻陷了霍邑，就等于进入了临汾郡的大门。他在做河东讨捕大使时，曾在临汾郡所属绛郡西北的鼓山住宿，现在起兵反隋，又经过这里，于是他再次在鼓山住宿，向儿子和亲信讲述他一生的艰辛。绛郡通守陈叔达是当年南朝陈宣帝的儿子，在南陈被封为义阳王，十几岁时侍宴赋十韵诗，被人们视为奇才。在南陈做过侍中、丹阳尹、都官尚书。隋文帝灭陈后，他成了隋朝的臣子，隋炀帝用他做中书舍人，又让他做了绛郡通守。他对隋炀帝多少有点感恩之情，于是李渊兵临城下，他要据守绛郡，不让李渊通过。李渊下令进攻，义军将士争先恐后，登城抢功，从卯时打到巳时，也就是不过两三个小时，绛郡城即被攻陷。李渊进城后在正平县县令李安远官衙吃午饭，绛郡通守陈叔达率领隋朝官吏们前来请罪。李渊早知陈叔达是个人才，于是宣布既往不咎，让陈叔达做丞相主簿，和记室温大雅同掌机密。
李渊的义军现在已经到了秦晋交界的龙门（今天山西省河津县西北的禹门口）。和陕西省的韩城市隔河相对，古代叫龙门山。汹涌澎湃的黄河从这里进入华北平原，于是，龙门以北，水流湍急；龙门以南，水势平缓；这种自然风貌给了古人许多启发，他们想象说大禹治水时来到这里，在龙门山上的相工坪查看地形，然后把龙门山劈开。让黄河水从这里流进华北平原，再流入东海。李渊在龙门县城观看形势，考虑是否渡河直取关中时，刘文静带着突厥康鞘利及500突厥骑兵、2000匹战马前来会师，更加增强了李渊渡河作战的信心。李渊对刘文静说：“我已经到了黄河边上，最担心的就是突厥和刘武周会合骚扰太原。现在突厥前来帮助我，说明太原没有危险，我军可以放心渡河了。”不过，李渊的放心，只是对太原后方放心，他面前还有一个很让他担心的对手，就是驻守在河东的隋将屈突通。
屈突通是长安人，对于李渊来说，这是一个需要争取的对象。不过，李渊又熟知屈突通的情况，觉得这是一个不大好对付的人。屈突通的父亲屈突长卿在北周时做过邛州刺史，所以他和李渊一样，有贵族出身的荣誉感。他在隋文帝执政时为亲卫大都督，也就是说是隋文帝的卫队长，李渊做过隋文帝的千牛备身，就是贴身保镖，为此，屈突通和李渊曾经是有过先后同事的关系，不过，两人相知却不曾有缘相识。隋文帝曾派屈突通去陇右检察国家掌管的牧马，检查出负责的官吏隐藏了2万匹马不报告政府。隋文帝大怒，准备将负责牧马的太仆卿慕容悉达和各级监察官共1500人全部斩首。屈突通劝道：“人命至重，死不再生，陛下至仁至圣，岂容以畜产之故，而戮千有余人？”隋文帝睁圆眼睛怒斥屈突通多嘴，屈突通叩头说：“我可以受死，但请免除这1500多人的死罪。”隋文帝这才问屈突通为何如此？屈突通说：“陇右养马，情况很不稳定。水草茂盛的年景，产马多；天旱草弱的年头，产马自然就少。可是国家制度规定产马多时赏，产马少时罚，负责养马的官员怕受罪，隐蔽一些马，为灾年顶数，也是常情。所以不可一见隐藏马匹，就认为是准备造反。何况在陇右牧马，生活艰苦，官员私藏一点马换些钱，也不能说是不可饶恕的大罪。”隋文帝于是减轻了这些陇右牧马监督官的刑罚，用减死的办法重新处理了这1500多名犯罪官员。屈突通后来做了隋朝的右武侯车骑将军，克己奉公，和兄弟屈突盖同样以不徇私情，敢于秉公执法出名。当时的贪官污吏害怕地说：“宁食三斗艾，不见屈突盖；宁食三斗葱，不逢屈突通。”隋炀帝上台后，提升屈突通做了左骁卫大将军。秦、陇地区农民起义爆发后，屈突通被任命为关内讨捕大使，镇压了安定人刘伽论率领的10余万农民起义军。隋炀帝去江都巡游时，留屈突通在长安镇守，显然对他是寄以厚望的。现在，李渊从太原向关中进军，屈突通实际是负责阻挡李渊义军的隋军主力。他坐镇河东，时刻准备出击，李渊如何敢不重视这样一个强劲的对手呢？
汾阴县的一名隋军降将薛大鼎向李渊献计说：“现在已经到了黄河边上，不如不管河东，就从龙门渡河，占领永丰仓后，关中可以很快平定。”李渊认为此计可行，一方面打听屈突通的动向，一方面派人去与河对岸的起义军孙华联系，准备渡河。
隋河东县户曹任环这时也归降了李渊，他自告奋勇，愿去说服河对岸的隋朝地方官吏和农民起义军归顺李渊。他说：“关中的英雄豪杰都在盼望义军到来。我在冯翊（关中东部地区）做韩城尉多年，对那里的英雄豪杰了解甚深，请让我去与他们联系，一定望风归顺。在得到他们响应的消息后，义军可以从梁山渡河，兵指韩城，再逼合阳。冯翊郡守萧造是个文吏，他只能是开城投降。关中豪杰之首孙华，也一定会出来迎接义军。到那时，义军鼓行而进，可以轻松拿下永丰仓。虽然还没有攻下长安，但夺取关中的趋势已经形成，所以最后占领长安是必然之事。”李渊想这是避免和屈突通正面作战的好办法，立刻封任环为银青光禄大夫，让任环渡河去见机行事，并且亲自给孙华写了一封信，让孙华早日加入义军。
孙华是关中冯翊地区的农民起义军领袖，部下有数千人，多年来一直在龙门附近活动。他收到李渊的信后，立刻表示愿意归顺李渊义军。李渊下令进军至壶口，附近农民听说义军要过河进攻长安，纷纷送来渡船，一天之内就得船数百只，李渊于是建立了水军，统领这些船只。
李渊想进入关中，就要进行改朝换代的大事了，不能不制造些舆论，这样必须借助于天命说法。他安排太原的李元吉送来一块青石，说是在太原发现的圣物，请李渊观看。李渊让所有头领和他一道观看，见这块青石上方下圆，很像一个乌龟。石上有红色的字，仔细辨认是：“李治万世”。李渊又当面验证，用水磨青石上的字，但越磨字迹越鲜明。这事一经传开，李渊就被认为是身受天命的圣人，他取亡隋而代之，被认为是天经地义的。
也许是李渊的宣传工作做得好，孙华主动从合阳渡河来见李渊。李渊喜出望外，与孙华握手对坐交谈，封孙华为左光禄大夫、武乡县公、冯翊郡守。李渊说：“卿能渡河远来相见，吾当贵卿，不减邓中华也。关中卿辈不少，名并劣卿，卿今率先从我，群雄当相继而至。”很显然，李渊认为孙华归降是关中可以拿下来的标志，他给孙华高官厚禄，为的是吸引关中农民起义军都加入他的部队，这样就可以凭借声势完成建立新王朝的愿望。
李渊决定渡河时，仍然担心屈突通会乘义军渡河时偷袭义军。不过，反复打探后，发现屈突通并无行动的意思，于是他让孙华先渡河去做接应工作，然后派左右统军王长谐、刘弘基和左领军长史陈演寿、金紫光禄大夫史大奈率领步骑六千从梁山过河，在河西列阵以待，掩护大军顺利渡河。任环以李渊所派招抚大使的名义在韩城一喊话，韩城隋军立即投降。李渊对王长谐说：“屈突通精兵不少，相去50余里，不敢来战，足见他的部下并不听他的话。不过屈突通不敢不战，因为他怕朝廷怪罪他。他如果过河来进攻你们，我就去攻打他的河东城，这座河东城肯定会落到我手里。如果他全力守城，你们就切断他的过河桥梁。他进退两难，除了被擒，不会有别的出路。”
屈突通果然怕受隋朝朝廷责备，派虎牙郎将桑显和率领数千人马乘夜袭击驻扎在河西的王长谐。王长谐正面迎敌，双方拉锯作战，孙华、史大奈率领骑兵突然进攻隋军背后，桑显和全军大乱。最后，隋军全军覆没，仅桑显和一个人逃回河东城。
就在桑显和在河西与义军王长谐部交锋时，李渊当机立断，率领大军包围了河东城。屈突通缩在城里不敢出来，李渊也一时不能把城攻陷。经过一段时间的较量后，李渊又与众将商量下一步的行动计划。裴寂说：“屈突通手下有很多精兵，现在就龟缩在城里。如果我军舍弃河东去进攻长安，屈突通一定会作再战的准备。等我们进攻长安不克时，截断我军的归路。那时我军腹背受敌，情况就危险了。所以，我军应当先克河东，解除后顾之忧，然后再举兵西进，攻打长安。长安之所以能与我军对抗，倚仗的就是河东屈突通的力量。我军如果消灭了屈突通，长安守军自然失去斗志，我军可以顺利破城。”李世民说：“不对！兵贵神速，我军连续获胜，士气正盛，威名远扬，所以不断有人加入我军。乘势进军，长安隋将一定心惊胆战，有智慧也来不及拿出谋略，再勇敢也作不出决断来，我军攻下长安，如同摇落树上的枯叶。如果把时间都耽误在河东这座坚固的城墙下，隋军一定会找出对付我军的办法来。我军耗费时间，会导致军心混乱，岂不误了大事？况且关中群雄蜂起，正盼望有人去招抚，我军不可失去这一良机。屈突通现在不过是死守一座孤城，等我军夺取长安后他自然就是我军的俘虏，所以现在可以不必理他。”李渊认为裴寂和李世民说的都有道理，加上现在军队已经有十几万了，可以分兵出击，所以决定留裴寂率领部分军队继续围攻河东，他自己率领大军渡过黄河向长安进军。
现在，李渊已经进入他梦寐以求的关中大地，古往今来，多少王朝在这里兴起，那么李渊是否也能如愿以偿呢？李渊自然满怀希望，不过，他还需要拼搏努力，才能向世界证明他自己。
公元617年九月下旬，李渊已经从太原打进了关中，所用不过20几天，军队也从3万人扩充到了10余万人，为此，李渊的战略决策也更加大胆与坚决。为了能够迅速夺取长安，向天下宣布他的志向，他一改步步为营的作风，推行大刀阔斧的战略方针，不等攻克屈突通把守的河东，就把军队的主力带过了黄河。
不过李渊在具体战术上，还是十分精细的，为了防止屈突通突然袭击，干扰他的渡河计划，他又做了一系列准备工作。
李渊先派孙华、刘弘基在河对岸做好接应准备，还绕到蒲津桥前，做出包围河东城的样子。然后，李渊亲自率领大军进攻河东城，他和李建成、李世民、裴寂各攻一面，使得屈突通手忙脚乱地疲于应付。突然，天降大雨，李渊乘势把已经攻上南城的1000名士兵撤下来，然后大军一起去壶口渡河入关中。屈突通弄不清李渊想干什么，躲在河东城里不敢出来，结果李渊军队主力得以顺利过河，屈突通仍然不敢与李渊留下来的偏师交锋。
关中虽然是隋王朝的国都所在地，由于隋炀帝一系列倒行逆施的政策所致，反隋力量比比皆是。李渊一踏上关中大地，就发现隋朝已经到了土崩瓦解的地步，改朝换代是必然之势了，他暗自庆幸自己选择了这条起兵反隋的道路，更为选择了夺取关中的战略方针而兴奋。不等李渊义军全部集合完毕，隋朝的冯翊太守萧造就率领所属官吏前来投降。李渊正想派兵去取永丰仓，守卫永丰仓的隋华阴县令李孝常派妹夫宝轨前来联系归顺。李渊住进隋朝邑长春宫后，“三秦士庶，衣冠子弟，郡县长吏，豪族弟兄，老幼相携，来者如市。”李渊自己也以为自己是天命所归的圣人了，连忙命令以少牢形式祭祀黄河，又对前来归顺的关中父老说了一番将要济世救民的豪言壮语。如《大唐创业起居注》卷二所载：
义旗济河，关中响应。辕门辐凑，赴者如归。五陵豪杰，三辅冠盖，公卿将相之绪余，侠少良家之子弟，从吾投刺，成畏后时。扼腕连镳，争求立效。縻之好爵，以永今朝。关中降者听后更为高兴，纷纷说：“这才是真命天子说的话。他来得太晚了！”李渊见关中形势比自己想象的要好得多，就让李建成率领刘文静、王长谐、姜宝谊、窦琮等数万人驻扎在永丰仓，把守潼关，防止屈突通进军关中援救。命令李世民率领刘弘基、长孙顺德、杨毛等人和数万军队，沿着高陵道，去进攻泾阳、云阳、武功、周至、户县，为进攻长安扫清障碍。
李世民领命单独率领大军出征，在泾阳消灭了不肯归顺李渊的胡人刘鹞子领导的农民起义军，当他进军到户县、周至等地时，意外地与李神通、平阳公主等亲戚率领的军队会合。
李神通是李渊的从弟，他的父亲也就是李渊的叔叔李亮，在隋文帝执政时做过隋朝的海州刺史。李神通本人在隋朝似乎没有出来做官，长期往在长安家中。李渊太原起兵，无论说多少要迎接隋炀帝回长安做太上皇的好话，隋王杨侑都不会相信。当时长安城在名义上归代王杨侑掌管，实际上是由刑部尚书领京兆内史卫文升主管。卫文升对付李渊太原起兵的办法除了派出屈突通、宋老生两支军队去河东阻拦李渊入关中以外，就是在长安搜寻李渊的亲属，企图以李渊亲属做人质强迫李渊放弃与隋朝作对。这样李渊家族只剩下逃跑隐匿这一条路了。李神通逃进陕西户县的终南山中，遇上了长安大侠史万宝、河东来的侠士裴勣、柳崇礼，四人一见如故，为反对隋朝暴政，共同举兵，在关中响应李渊在太原的主张。他们为了进攻户县，去和在户县、周至一带活动的“司竹贼”即在司竹园一带活动的西域商胡何潘仁联系，何潘仁手下有一支数万人的武装，李神通等人认为如果要在关中取得生存地位，争取何潘仁的合作是非常必要的。
李神通等人没有想到，李渊的女儿平阳公主比他们更早争取到了何潘仁的支持。平阳公主是李渊和窦皇后所生的第三女，也就是柴绍的妻子。柴绍的祖父柴烈在北周时为骠骑大将军，任遂州和梁州刺史，封冠军县公。父亲柴慎在隋文帝时任太子右内率，封钜鹿郡公。柴绍从小以有勇力和行侠仗义在关中出名。李渊把女儿嫁给他有加强李家在隋朝地位的用意。当李渊在太原起兵，派人来通知柴绍、平阳公主夫妻二人去太原会合。平阳公主力主柴绍一人去太原，她自己留在关中做内应。柴绍走后，平阳公主不等隋朝官吏来搜捕，先回到户县自己家的庄园。隋代中国正是地主庄园经济十分发达的时期。所谓地主庄园经济，是指自西汉以来，统治者无法制止封建大土地私有制的发展，使得大地主，大商人、大官僚三位一体。大量兼并一般农民的土地，出现“富者田连阡陌，贫者无立锥者地”的现象。农民失去土地，为了生存，被迫沦为部曲、奴婢，即在身分上从自耕农变成了农奴。部曲和奴婢既要为大地主耕种土地，还要承担大地主的家庭劳务，更要为大地主做私兵。魏晋南北朝时期，大地主通过把持各地官吏选拔举荐权力而成为士族地主，也叫豪强地主、世族地主，每一个这样的士族地主都因为广占土地人口而具有一定的经济、政治、军事实力，特别是他们的部曲、奴婢，一旦需要，往往可以编入军队，所以被人们看成是大地主、大官僚、大商人的私兵。平阳公主回到户县自己家的庄园里，显然是用自己家族的力量组织起军队，与隋朝抗衡。平阳公主除了动员起自己的家族私兵以外，又尽散家资，招引躲在终南山里的逃亡农民，一下子组织起数百人的武装，宣布这是响应李渊太原起兵的义军的一部分。平阳公主又注意到了司竹园的何潘仁数万武装。她派自己的家僮——也就是家用奴隶马三宝，去与何潘仁联系。马三宝找到何潘仁，向他陈说利害，鼓动他的反隋情绪，宣传李渊的起兵主张，尤其讲述跟随李渊做事会有怎样的光明前途，终于说服了何潘仁，何潘仁参加了平阳公主的军队，并且和李神通一道进攻户县。户县的隋军抵挡不住李神通和平阳公主、何潘仁军的联合进攻，户县很快成为起义军的指挥部。李神通手下有了1万多人军队，他自称关中道行军总管，以史万宝为副总管，裴勣为长史，柳崇礼为司马，令狐德菜为记室。李世民见了李神通，立刻向李渊报告，李渊非常高兴，授李神通光禄大夫之职，后来还做了宗正卿。
平阳公主则更有发展。在联合何潘仁攻陷户县以后，又让马三宝去联系另外几支由李仲文、向善志、丘师利领导的起义军。其中李仲文是瓦岗军首领李密的从父，因为李密参加了瓦岗军，并且成为隋朝当时最为关注的政治对手，以至于被隋朝政府迫害亲属，李仲文受牵连，只好在眉县聚集起了四五千人马，与隋朝政府对抗。马三宝一来游说，李仲文立即认为这是一个保存自己不被隋朝镇压的机会，立即跟随马三宝到户县集合。马三宝又说服了向善志和丘师利接受平阳公主领导。这样一来，平阳公主在东起户县，西到眉县的秦岭山区，组织起来了7万余人的反隋武装力量。她又懂得治理军队，“每申明法令，禁兵士勿得侵掠”，这样在关中地区投奔她的人很多。长安的隋朝留守屡次派军队前来镇压，平阳公主派马三宝和何潘仁迎战，打退了隋朝统治者的多次进攻。平阳公主在关中名声很高。李渊一进关中，就听到了女儿屡挫隋锋的消息，十分兴奋，在过了黄河之后，就派柴绍率数百骑从华阴依傍南山来见平阳公主。柴绍和平阳公主率领大军和李世民在渭河北岸会师，平阳公主领导的这支军队被称为“娘子军”，在李渊夺取关中的过程中发挥了极大的作用。
李渊还有一个女婿名叫段纶，他在陕西蓝田一带活动，等到李渊大军入关中，他的这支军队也达到1万余人。李渊进入关中后，李神通、平阳公主、段纶所领导的义军全部加入到李渊所派出的李世民所率领的队伍里，李世民麾下一下子有了13万人的军队，足够与长安的隋朝统治者交锋。
李世民西进不断获胜的捷报传到驻扎在永丰仓的李渊、李建成父子那里，这父子二人全都坐不住了。李渊看他最担心的屈突通并没有马上派兵来攻打潼关，而是留在河东看动静，立刻抓住这一有利时机，和李建成一道率领义军主力进军长安，并且在这一年的十月在长安东门外宿营，准备对长安城发动攻击。李世民也率领沿途收编来的军队逼近长安城郊。两支军队加起来有20多万人，这在当时的全国各地义军中，也算是有实力者了。
面对李渊已兵临城下的形势，隋朝代王杨侑一下子失去了主张。按照隋炀帝去江都时的规定，辅佐代王杨侑的京师留守是刑部尚书兼京兆内史卫玄、左翊卫将军阴世师、京兆郡丞骨仪这三个人。其中卫玄（字文升）是隋文帝时的老臣。他的祖父卫悦在北魏做过司农卿，父亲卫剽在北魏和西魏时做过侍中、左武卫大将军，可以说是鲜卑族贵族的代表人物之一。他本人在北周武帝时任过记室、益州总管等要职，并且担任过管理长安的京兆尹。隋文帝杨坚夺取北周政权时，他为隋文帝平息过和州蛮族的叛乱，做了隋朝的淮州总管、检校朔州总管、卫尉少卿等官职。隋炀帝上台后，用他管理少数民族地区，取得很大成功。从大业八年，也就是公元612年开始担任刑部尚书，又以检校右御卫大将军身分参加征讨高丽的战争。这一次进攻高丽，隋军大败而归，各路军马都受到重大损失，惟独卫玄这一支军队完整地回到国内，隋炀帝于是加封卫玄为金紫光禄大夫。公元613年第二次征讨高丽时，隋炀帝率领隋军亲征，命令卫玄辅佐代王杨侑留守京师，并且任命卫玄为京兆尹，许以便宜从事，要代王杨侑对待卫玄以师傅之礼。隋炀帝这一次出征高丽引起杨玄感起兵反隋，包围东都洛阳。卫玄得知杨玄感造反的消息后从关中率领7万军队来镇压杨玄感。在途经华阴杨玄感家乡时，卫玄下令把杨玄感之父杨素的坟墓掘开，又把杨素的骸骨焚毁，以示与杨玄感誓不两立。大军出潼关时，有人对卫玄说：如果走函谷山路，很可能会遭受杨玄感的埋伏。不如从陕县上船，顺黄河东下，绕道河阳去攻击杨玄感的后方。卫玄说：我想杨玄感这个小竖子还想不到用这条埋伏崤、函山路的计策，所以就走崤、函山路，而且鼓行而进。大军走完60里函谷山路，没有遇到任何阻挡，全军都信服卫玄的判断了。卫玄乘势率领全军与杨玄感交锋，本来寡不敌众，已经处于下风，恰好宇文述、来护儿两支隋军主力赶到，共同击败杨玄感。杨玄感在西逃途中被杀。隋炀帝为此嘉奖卫玄为“社稷之臣”，封他为右光禄大夫。等到去江都巡游时，又把辅佐代王杨侑留守京师的重任交给了卫玄。李渊在进军长安时，曾经最担心卫玄这员老将会有什么招数来对付起义军。不料卫玄早在公元615年就对隋朝的前途失去了信心，他曾向隋炀帝提出过辞职申请。只是隋炀帝认为这是一个可靠的奴才，说：“京师国本，王业所基，宗庙陵园所在，不能由没有经验的人负责，还是由卿主管。朕是从国家利益考虑，卿就不要推辞责任了。”于是，卫玄其实是勉强任职。当李渊大军逼迫长安时，卫玄“祸恐及己，遂称老病，无所干预”。这位年过七旬的老将，就这样躲避了将要到来的政治风险，把防守长安的责任全交给了阴世师和骨仪这两个人。这在客观上，为李渊顺利夺取长安又创造了条件。
阴世师是隋朝幽州总管、赵国公阴寿的儿子，少年时以忠厚、多武艺著称，因为父亲有功于隋朝，他在隋文帝时做了骠骑将军。隋炀帝上台执政时，他曾任东都瓦工监，在隋炀帝苦役百姓的暴政时期，做了许多为虎作伥的坏事。他在做张掖太守时对吐谷浑和党项羌等少数民族用兵，为隋炀帝开拓边疆立下功劳，做了隋炀帝的虎贲郎将。隋炀帝公元611年征讨高丽，他出平襄道进入高丽，不过还是大败。等到公元613年隋炀帝第二次征高丽，阴世师做了涿州留守，在平息杨玄感之役中立有功勋，曾被派去做防备突厥进攻中国的楼烦太守。隋炀帝来汾阳宫巡视，阴世师发现突厥有进攻雁门的企图，于是建议隋炀帝躲避到太原去。隋炀帝不听劝告，所以陷入突厥始毕可汗的雁门之围中。隋炀帝在逃出雁门之围后，认为阴世师是个人才，让阴世师做了左翊卫将军，辅佐代王杨侑留守长安。其实阴世师并无对付李渊领导的起义军的能力，他面对李渊兵临城下的形势，除了据险死守之外，拿不出任何可行的办法来。至于京兆郡丞骨仪，本身即是长安人，他在隋炀帝上台时从侍御史提升为尚书右司郎，一直做有关司法方面的工作，对军事并不在行。当李渊义军进军长安时，卫玄推托责任，以老病为名，一切不问，骨仪却以尽臣节激励自己，与阴世师一道，依靠长安城高大坚固的城墙，对义军作最后的抵抗。
李渊仍然打着为隋炀帝弥补过失而不立即推翻隋朝的旗号，他在经过隋朝的栎阳行宫时，下令废除所有隋炀帝的行宫、花园、猎场，释放被隋炀帝征进行宫的宫人。而且还发表了批评隋炀帝的文书。如《大唐创业起居注》卷二所载：
大业以来，巡幸过度，宿止之处，好依山水。经兹胜地，每起离官，峻宇雕墙，亟成壮丽。良家子女，充仞其间。怨旷感于幽明，糜费极于民产。替否迭进，将何纠逖？驰道所有宫室，悉宜罢之。其宫人等并放还亲属。这就是李渊的精明之处，他在太原起兵，明明是反隋，偏要说成是“尊隋”行动。不过他的“尊隋”，又不是“尊”隋炀帝，因为隋炀帝早已人心丧尽，如果再拥护隋炀帝，必然失去人心。但他又不能公开宣布推翻隋朝，因为这样做就把自己公开暴露在天下群雄面前。各割据势力和隋炀帝万一勾结起来向关中进攻，李渊反而不是对手。为此，李渊在关中的军事行动十分谨慎，他到了长安城下，先不急于用兵，而是派使者进城，说明李渊是来辅佐隋王朝的。只要隋炀帝下台，把政权交给代王杨侑，义军将不伤害任何人。阴世师和骨仪哪里会相信李渊说的这些话呢？他们登城防守，不许李渊进城。李渊这才下了攻城命令，把造成战争的责任全推给了阴世师和骨仪这两个人。
公元617年十一月，李渊所率领的起义军开始进攻隋朝国都长安。李渊命令李建成负责攻打东、南两个方向，李世民负责西、北两个方向，他自己在春明门外坐镇指挥。在士兵准备好了攻城器械后，他还特别下了一道命令，以示他对隋朝的“忠诚”。他说：“弘弩长戟，吾岂不许用之？所冀内外共之，以安天下。斯志不果，此外任诸公从民所欲。然七庙及代王并宗室支戚，不得有一惊犯。有违此者，罪及三族。”义军听到允许攻城的命令后，奋勇争先，那位在李渊北渡黄河时参加李渊义军的关中义军首领孙华就是在进攻长安城时中流矢而阵亡的。十一月十一，李建成部所属军头雷永吉率先登城，守城隋军溃散，李渊率领义军进入长安城，实现了他在太原起兵时制定的主要作战目标。
李渊入城后，仿效当年汉高祖刘邦进入秦都咸阳的办法，封府库，收图籍，禁止军队抢掠居民的财产。他想当年周文王在这里建立丰京，周武王在这里建立镐京，然后消灭了商王朝，封建天下。秦穆公在这里成为春秋五霸之一，并且在秦王嬴政时，实现统一全国的业绩。秦始皇在这里推行的一系列统一天下的措施，至今还在沿袭使用。刘邦以这里为根据地，打败项羽，建立汉朝。后来王莽篡位，刘秀起兵推翻王莽新朝，建立东汉，虽然把首都放在洛阳，但依然把长安作为国都，每年都到这里来祭祀祖先。魏晋以降，不但汉献帝、晋愍帝在这里短暂停留，刘曜的前赵，苻坚的前秦，姚苌的后秦，还有西魏、北周，都在这里建都。隋文帝在长安改建出大兴城来，正是希望在长安做一番伟大事业，不想碰上隋炀帝这样一个败家子，不守住父亲打出来的家业，到处巡游玩耍，给了天下英雄建功立业的机会。现在，自己已经掌握了长安，也就是掌握了取隋朝而代之的权力。剩下的事情，只是如何运用好这个权力的问题了。
秦中自古帝王都，李渊现在不禁要庆幸自己战略选择的成功了。虽然，他那统一天下建立新王朝的目标还有待艰苦的努力，才能达到。