原本打算在河东蒲州坚守的屈突通突然听闻李渊舍弃河东，转而西入关中进攻长安，大惊，急忙安排鹰扬郎将尧君素坚守河东，自己率领数万随兵前往支援长安。但是这一着早已落入李渊的计算当中，屈突通西行路上被刘文静所率领的义军阻挡，陷入相持当中。
除了阻挡屈突通西行支援长安，李渊还排除一支军队攻击河东，虽然明知不能攻克，但目的只是骚扰蒲州守军，也令屈突通首尾难以兼顾。
此时长安城内已风闻李渊要攻打长安，一下子人心惶惶，代王杨侑毕竟年幼，此时不过十二岁，只能指望留在长安城内的大臣们拿些主意出来。偏偏那刑部尚书兼京兆内史卫文升年纪大了，听闻此事，忧惧成疾，已不能参与政事。
好在城中还有左翊卫将军阴世师、京兆郡守骨仪等人，虽然李渊打着立代王为君主的旗号，但他们清楚这不过是披着羊皮的外衣，以掩盖其暗藏的狼子野心，阴世师因此主张婴城坚守。
由于李渊的威德天下皆知，加上他喊的什么“解天下倒悬之急”等口号，阴世师等人怕长安城内的愚民们受到蛊惑，京邑之人纷纷逃离，投奔李渊而去，因此在运粮入宫后，选择了紧闭城门，不让百姓出入。
李渊听闻长安城的对策后，感叹道：“我兴义军，举义旗，不过是尊隋室，欲立代王为君主，以报高皇帝。不料却反而被怀疑我有取而代之之意，拒不接纳义军，阴世师、卫文升这群小人简直是深深辜负了老夫的一番好意。”
说这话时，幸亏铁纲靖没在旁听到，否则以他心直口快的抬杠精神，说不定会脱口而出：“信你个鬼，你这个糟老头子！要夺人天下了，难不成还叫人家大开城门，夹道欢迎，高呼‘欢迎唐公来取代我杨家天下！’”
这边李世民屯营泾阳，加上新近加入李氏等几路人马，将士人数已达十三万之多。那边李渊又派刘弘基、殷开山率领六万大军南渡渭水，屯在旧的长安城（即汉代兴建的长安城）。自此，渭北、渭南都是义军，对长安城形成南北夹击之势。
长安城内见形势危急，按耐不住，想趁义军立足未稳进行攻击，阴世师派出一支军队出战，但被刘弘基拦下，轻松破掉攻势，隋军只能退回城内，窝在城中不出。
李世民见长安城已是囊中之物，大局已定，并不着急，派人去告诉李渊，请他即日赶赴长安主持大局。
坐镇长春宫运筹帷幄的李渊见此，心中欢喜，对众人道：“屈突通西行之路被我军阻隔，不足虑也。”
当下整好军队，即刻引军西行，沿途把经过的杨广那些离宫园苑全部撤销，放出里面的宫女各回各家，各找各妈，宣称道：“大业已来，巡幸过度，宿止之处，好依山水。经兹胜地，每起离宫，峻宇雕墙，亟成壮丽。良家子女，充仞其间。怨旷感于幽明，縻费极于民产。替否迭进，将何纠逖。驰道所有宫室，悉宜罢之，其宫人等并放还亲属。”
铁纲靖听到此消息，料想那些宫女不过是杨广挑剩下的，姿色想必也不如晋阳宫的张妃、尹妃，勾不起李渊的兴致，所以干脆做个好人，全部放回家。
等到李渊抵达灞上，已经是十月，进入冬季。之后与诸军集结，扎营在长安城春明门西北方向，大军合计有二十余万将士，声势甚是浩大。
李渊明白自己所举义旗，民心非常重要，考虑大军不少是群盗所归附，因此严令各军各依壁垒，不得进入附近村落做任何侵暴之类的勾当。若无战事，所有将士须在营中待命。
大军压境，兵临城下，长安城内已是人心惶惶。那代王杨侑年纪虽小，即使内心慌张，但外表仍然尽力保持镇静，对一个十二岁的孩子已是颇为难得了。此时长安与远在江都的杨广音讯隔绝，即便求援，也是远水解不了近渴。
李渊派遣使者到长安城下，向留守的大臣卫文升等宣谕，表示兴义军是为了遵奉代王为帝。
但是卫文升早已惊吓过度，重病不起，不能理事。而阴世师、骨仪等大臣，见义军人数众多，且军令森严，不令而齐，明白是一个硬茬，惹不起，只是下令严防死守，不断加固防守，杜绝信使往来。
李渊每次遣使到城下，申明自己尊隋夹辅之意，但是阴世师等大臣丝毫不信，也不将李渊表达之意告诉代王杨侑，以致李渊的任何宣谕无法传达。城中的杨侑更是无计可施，还在眼巴巴指望着屈突通和江都派人来救援。
如此耗了十余日，诸将捺捺不住，纷纷向李渊道：“京都婴城自守，此时代王他们要自亡隋运。上天既要隋亡，非人力所能复兴。唐公不必违背天意，徒耗日子，反而劳师费粮。坐等长安城内这些顽固的大臣和代王开窍，并非长久之策，还请唐公出兵围城，代王等人才会回心转意打开城门迎接唐公。”
李渊摇头道：“老夫举义旗、兴义兵，本意是尊隋奉代王为帝，若是强行攻城，弓箭无眼，士兵失控，无意间伤了代王，那世人又会如何看待我？老夫可不能悲伤判隋造反的千古罪名。”
铁纲靖听后，心中狂笑，暗道：“叛隋造反的事情做都做了，为何还有这么多顾虑？难道就为了维护那张虚假的面孔？果然帝王之术不是我这等粗浅的搬砖工所能理解的。”
此时裴寂站出来劝道：“当今隋主连年暴政和征伐，以致于白骨露于野，千里无鸡鸣，已失天下民心。代王虽也年幼，但不开窍，将来也成不了周成王这等英明君主，唐公何必行周公旦辅佐成王之事。”
李世民也站出来，道：“父亲大人，且不说大隋气数已尽，就说河西自称‘秦帝’的薛果，此乃奸猾之徒，正在河西攻城略地。若是听闻我军进据关中，必定前来争夺。据闻长安城内囤积了大量的粮草，若是拖延下去，我军只会多了西面一个劲敌，两处分心，与我军极为不利，还望父亲大人三思。”
但李渊仍在迟疑未决，担心背负骂名，没有做出决定。