攻破霍邑后，李渊一路势如破竹，在其后的十天内就分别夺取了临汾郡和绛郡。八月十五日，李渊率军抵达黄河东岸最前沿——龙门（今山西河津）。这时候，刘文静、康鞘利带领着五百名突厥兵和两千匹马赶到了。突厥出人出马如约而来，透露出一个重要信号：他们不会打太原的主意。后方基地高枕无忧，让李渊和军兵们吃了一颗定心丸。李渊很高兴突厥兵这么晚才来，因为仗都打完了他们才来，当然什么战利品都不用付给他们，没有支出不就相当于赚了嘛。他高兴地对刘文静说，他快要西渡黄河的时候，突厥人才到达，而且是兵少马多，“皆君将命之功也！”
这时候，领导同志说得多真心实意啊！可是，这句话说完才过去两周年，公元619年九月，这位领导同志就以谋反罪把刘文静给杀了。唉，果然是伴君如伴虎。难怪中国几千年的奴隶和封建社会史，就是一部人人都想当老虎的历史呢。
此时的形势对李渊极为有利，太原以南的地区大部分已收入囊中，只剩下最南端的河东城没有拿下。
河东城乃山西地区军事重镇，是连接东西两京洛阳和长安的咽喉要道，从地图上看，这三座城市差不多处在一条直线上，战略地位十分重要。隋朝对河东城进行了大规模的经营，城墙高厚，粮多兵强，守城主将屈突通骁勇善战。李渊要想打下河东，绝不可能轻而易举。
显然，摆在李渊面前的河东城有点可望而不可即。这时，一个叫薛大鼎的汾阳人给李渊提了一条建议，他请李渊不要以硬碰硬去进攻河东，而是从龙门直接渡过黄河，占据永丰仓，然后向各地传布檄文，关中地区便坐等可取了。李渊觉得这个建议不错，打算听从他的意见，但当时军队中众多将领战心急切，请求攻取河东后再渡河西进。薛大鼎的这条建议是切实可行的，但李渊考虑到众将情绪，还是挥师南下，攻打河东。后来在河东城久攻不下后，基本还是采用了薛大鼎的这个思路，甩开河东城，占领河西地区，兵锋直指长安。
李渊当时在西北一带口碑很好，威望较高，而且兵精将广，属于实力派偶像，这些有形、无形资产对李渊快速攻下长安起到了很大的作用。当时关内大小不一的盗匪集团跟山上的鸡爪菜似的，到处都是。其中有个叫孙华的山寨王势力最大。李渊行至汾阴（今山西万荣）时，派人送了一封信前去招抚孙华。孙华当时活跃在冯翊郡（今陕西大荔县）一带，和李渊所在的汾阴中间还隔着一道黄河。但李渊的魅力还真是大。这个土匪头子接到信件后不到一个星期，就不远百里渡过黄河来面见李渊。见到孙华后，李渊充分表现出他社交“万金油”的一面。他一把拉住这位二十岁的小兄弟的手和他肩碰肩坐在一起，和他进行亲切交谈，详细询问了他的山寨生活情况，然后封他为左光禄大夫、武乡县公、冯翊太守。不仅给孙华封官，李渊还爽快地下放权力给孙华，让他对其有功的部下，依次授予官职，这些官职的待遇由李渊埋单。
李渊真是精明透顶的人才，他的统一战线工作做得太到位了。在起兵前夕，灵寿县的郗士陵带着自己的几千人队伍归降了李渊。李渊立即封他为镇东将军、燕郡公。入伙区区几千人就得了个将军头衔，这个性价比是很高的了。当然，这是李渊有意为之的“买砖引玉”行为。很难说孙华没有受到这个广而告之的影响。在评价孙华对归顺的意义时，李渊高兴地说：“卿今率先归我，群雄当相继而至。”孙华归顺李渊后不久，韩城（今陕西韩城）也不战而降，直接投入到李渊的怀抱。此后主动投诚者一直络绎不绝。
孙华归降后，李渊对攻击河东城作出了整体部署。他首先派遣左、右统军王长谐、刘弘基以及金紫光禄大夫史大奈等人率领步骑兵六千人跟随孙华从梁山渡过黄河，在河西扎营，等待大军的到来。李渊的这着棋走得很活。他的用意是，如果屈突通率军过河进攻西路军，那他就指挥军队进攻河东，河东肯定唾手可得。如果屈突通固守城池不出，那西路军就伺机拆毁河上的蒲津桥，阻断屈突通西进之路，将他困死在黄河东岸，慢慢围而歼之。
王长谐、刘弘基等人到达黄河西岸以后，屈突通感觉有点儿慌，因为如果西岸敌人大规模沿河南下，将有可能对自己形成夹击之势，所以必须要消灭掉西岸李渊的先遣军。于是，屈突通派虎牙郎将桑显和率领数千名精锐骁果趁着黑夜偷偷袭击了王长谐等人的大营。这次长途奔袭的几千名隋军都是精挑细选的骁果。骁果是杨广为攻打高丽特别招募组建的一支王牌军队，作风强悍，战斗力很强。而王长谐等人的西路军也就几千人，况且还是在受到突然攻击的情况下仓促应战，所以根本不是隋军的对手，如果不出意外的话，这些先前一步过河的军士也将先前一步死亡——不是被杀死就是被逼进黄河淹死。但自古战场如赌场，输赢只在转眼间。在这紧要关头，靠“买砖”引来的孙华起作用了，他和史大奈率领着一部分骑兵从桑显和的身后冲杀而出。隋军正杀得起劲呢，没想到屁股后面着火了，吓得赶紧往河东跑去。桑显和在逃回的路上，也不知道是害怕追兵赶上自己还是担心李渊军将来夹击河东城，竟“自绝河粱”——他抢了李渊的业务，自己包工包料将连接东西两岸的蒲津桥给拆毁了。
桑显和大败后的第二天，冯翊郡太守萧造主动向李渊献城投降。冯翊郡的倒戈，使河东城位于黄河西岸的防线彻底崩溃。因为冯翊郡和河东城隔河正对，是河东的重要呼应屏障，再加上和冯翊位于一条纵线上的合阳、韩城的归顺，此时的河东城已经成了一座孤城，失败的命运已不可避免，只是时间早晚问题。
在搞定了外围的一切“钉子户”后，九月初十，李渊统帅各军将河东郡层层包围。屈突通是个身经百战的老将，他不慌不忙地闭城据守。对付李渊的办法他只有一个字：拖。像四年前杨智积在弘农宫拖杨玄感一样，他也要把李渊拖在河东城下，目的是让西京长安有更多的时间部署城防。
在包围了这座坚城后，李渊的手下又推举李渊“领太尉，增置官署”。造反者总想把官越造越大，李渊是，李渊的手下也是。他们希望李渊最终能把自己造成让别人陪伴的“老虎”，那他们也就跟着成了耀武扬威的狐狸了。李渊接受了下属的建议，自称太尉。太尉是一种很高的荣誉称号，这比刚开始时的大将军又升了不是一两级。没办法，皇帝表弟总不提拔，表哥只能自己举贤不避“亲”，亲自给自己提拔一下了。
虽然河东城还没有拿下，但李渊军事集团的形势一片大好，各地投诚归顺者纷至沓来，“三辅豪杰至者日以千数”，部队由始初的三万人迅速扩增至十几万人。“三辅”是指现在的陕西中部地区，和山西横着一条黄河呢，但这些人仍是跋山涉水来投靠李渊，可见李渊当时的知名度是很高的，造反事业也是很得人心的。这也是意料之中的事，杨广把国家弄得那么民不聊生，老百姓当然支持在野党尽快上台改朝换代了。
要想尽快实现改朝换代，必须要尽快攻下西京长安。然而对于是否攻打长安、在什么时间攻打，李渊军事集团内部又产生了分歧。和上次霍邑之争一样，裴寂和李世民各执一词。
裴寂认为，河东城是长安唯一依恃的后援，攻下河东就等于斩掉了长安的后背。他说：“如果舍弃拥有大批军队的屈突通去攻打长安风险很大，因为一旦攻击遇阻，屯兵于长安城下，就很有可能陷入腹背受敌的危险状态，前进有西京阻击，后退会遭到河东军的追击。不如先攻下河东，然后再毫无任何思想负担地挥师西上，轻取长安。”
