蒋介石在汪精卫、胡汉民都在国外的情况下，个人包办召集国民党二届四中全会。二月七日，四中全会闭幕，暂推蒋介石、谭延闿、戴季陶、丁惟汾、于右任五人为中央常务委员，余四名留待出国同志，以谭延闿为国民政府主席，以黄郛为外交部长，宋子文为财政部长。组成军事委员会，蒋介石、于右任、李宗仁、白崇禧、李济深、何应钦、朱培德、程潜、冯玉祥、杨树庄、阎锡山、谭延闿等十二人为常委，蒋介石为主席。
四中全会方结束，蒋介石便轻车简从去徐州视察。他此行有一特点，就是不令第一路总指挥何应钦随行，而把他留在斗鸡闸的公馆里。到二月十三日蒋召总司令部秘书长李仲公到徐州去，出示他当日给国民政府的电报，电文云：“已得第一路总指挥何应钦同意，取消第一路名义，改为第一集团军，中正自兼总司令，下设三纵队指挥，以刘峙、陈调元、贺耀祖任之。”另外，蒋介石把致何应钦的一封信交给李仲公：“这封信要你当面交给何敬之（何应钦），你对他说，现在调他当总司令部参谋长，他非要就任不可。我要给他一点教训，证明我蒋某人不是好欺侮的。去年八月，如果他敢于同白健生（白崇禧）讲几句话，我又何至于被迫下野哩！”蒋氏言下犹恨恨不已，表示他以牙还牙，报施不爽。
蒋介石采用刘邦入壁夺符的办法，一手把何应钦的兵权抢过来，使何氏感到异常羞愤，并告假两月，避居上海。后来蒋介石亲往抚慰，何应钦才于二月二十二日回到南京报到就职。这一切是上海市长张定璠派人告诉白崇禧的，当可信其有征。
二月二十八日，蒋介石以军事委员会主席的名义发表他自己为第一集团军总司令，冯玉祥为第二集团军总司令，阎锡山为第三集团军总司令，规定四月开始动员；第一集团军从津浦路，第二集团军从京汉路，第三集团军从正太路，对张作霖统率的“安国军”分攻合击，以打下北京天津为作战目标。但对两湖军队究竟如何使用，蒋介石迄今未有任何表示，大抵他想到去年八月下野一幕，心中还念念不忘。
直到白崇禧将李品仙统率的军队完全收编过来，此举不仅使广西军人的实力在一夜之间膨胀了一倍以上，并且使两湖与两广在地理上连接起来，它所处的战略地位，较蒋氏所统治的华东几省远为优越。蒋介石不能忍受李、白集中军力于一处，而必须分而治之。因此经过考虑，才于四月八日任命李宗仁为第四集团军总司令，白崇禧为第四集团军前敌总指挥；但没有明示第四集团军的作战区域及其任务，白崇禧于奉委后即率李品仙部到武汉集中，候令进止。至此蒋冯阎桂四个集团开始形成，国民党军力消长到了一个新的转折点。
回顾三年前北伐誓师，从两广出发的共有七个军，到了今天，在此七个军中，只有蒋介石的子弟兵第一军和李宗仁的第七军能发展为集团军。为什么后者有此幸运？当以白崇禧所起的作用最大。出于白崇禧的设计，由他指挥第三路军入湘，成功地把唐生智旧部收编过来，使蒋介石不能不对李、白另眼相看，俾以冯、阎相等的地位，形势逼人强，的确是一条真理。
大家都关心第四军的命运，他们到哪里去了？自中共发动广州起义后，南京国民政府于一九二七年十二月二十一日授李济深以全权，返粤整顿粤局。蒋介石惯于运用两面手法，这时也拨付五十万元予李济深，用来攻打第四军。一九二八年一月四日，李济深返抵广州，立即指挥黄绍竑从西面、陈铭枢从东面围攻第四军，缪培南初与第十一军激战时获胜，但后与黄绍竑苦战卒告失败，第四军名将许志锐战死，缪培南率余部入江西。三月七日，蒋介石任命李济深为国民革命军总司令部参谋长，李氏卒于三月三十日到南京就职。四月二十六日，蒋介石邀李济深、陈铭枢与缪培南会晤。劝他们捐弃成见，消除误会，并将第四军拨入第一集团军，调往徐州作战。此外，蒋介石还当面交代李济深，由广东省政府每月接济第四集团军一百万元，以补助其军费开支。李济深等到蒋介石北上督师又返广州去了。
四月十日，蒋介石下达总攻击令，与第一集团军作战的是张宗昌的鲁军，强弱异势，进展迅速。十二日，第一集团军先后占领夏镇、台儿庄、郯城，张宗昌下令鲁军总撤退。孙传芳不知信息，他照原定计划从鲁西侧击第一集团军，一举连克鱼台、丰县，幸冯玉祥第二集团军孙良诚率骑兵席掖池部，冲击孙传芳的后尾，四月十六日，占领了济宁，截断了孙部的退路。孙传芳才慌忙后撤。四月二十二日，蒋、冯两军在泰安会师。四月二十七日，蒋、冯会晤于陇海线上的野鸡岗，决定进占济南。五月一日上午十时，第一集团军刘峙、陈调元、顾祝同率部入济南。蒋介石发表方振武为济南卫戍司令。但麻烦跟着来了。
日本当局心怀叵测，借口护侨，出兵山东，实际是蓄谋阻挠国民党北上，维护张宗昌在山东的统治。五月二日，日军司令福田彦一到济南，部署了一系列的警备措施。五月三日，日军在精密计划下，选择了驻在五大马路纬一路广东会馆的贺耀祖部两个营展开攻击，因贺部不备，损失惨重。当日夜间，蒋介石下令驻在商埠的部队全部出城。并派外长黄郛进行交涉，但日军竟毫无理性地惨杀驻济交涉员蔡公时，战地政务委员会外交处人员全被杀害，此即震惊中外的“济南惨案”。
济南事件后，蒋介石发现第一集团军从津浦路北上打下京津已不可能了，故有意退回南京，与奉张划江而治，但此意为谭延闿所坚决反对。五月九日，谭延闿在南京私宅约吴稚晖、张静江、黄郛、于右任、李烈钧举行会议，做出六项决定。会后由谭延闿、吴稚晖带上六项决议去兖州晤蒋介石。十日，在兖州举行党政军联席会议。会上蒋介石仍坚持退回南京，但谭延闿则主张继续北进，完成北伐。谭延闿的主张得到会上大多数的同意。最后，蒋介石也赞同，但他决定把指挥权交给冯玉祥，自己却回到徐州去了。
五月十八日，蒋介石到徐州会晤冯玉祥，告以绕道北伐的主意，并将指挥权两手奉送冯玉祥。冯玉祥说，京汉路正面为奉军主力所在，应请第四集团军同第二集团军并肩作战，联镳并进。蒋介石正感到第四集团军没有派定任务，冯氏之意正合他的下怀。于是蒋介石立刻从郑州打电报给李宗仁：“请白健生兄即日到郑州一晤。”
白崇禧接电后即于十九日从汉口去郑州，到时受到冯玉祥总司令的热烈欢迎。在去年六月徐州会议时，白崇禧已见过冯焕章了。后者质朴耿直的高大形象，令白氏有肃然起敬之感。
二十日中午，蒋介石约白崇禧吃午饭，在座的有宋美龄、宋子文、邵力子。白崇禧简单地报告他所带的部队有李品仙、叶琪、廖磊等六个军，叶琪军整装待发，不日即可开动。蒋介石对白崇禧说：“第四集团军北上部队的军费，由子文负责拨付。”他说时看了宋子文一眼。二十一日下午，蒋介石又召集冯玉祥、白崇禧举行会议，商进攻京津计划。当即决定：第四集团军担任京汉铁路正面，攻保定；第三集团军担任京汉铁路以西，攻保定侧背；第二集团军担任京汉铁路以东，攻高阳，与第四集团军齐头并进。会后，蒋介石嘱白崇禧在进军时顺道到石家庄晤阎锡山，代达问候之意。
白崇禧于二十二日返抵汉口，向李宗仁报告郑州之行的经过。白氏发现在他不在武汉时李宗仁听了胡宗铎一面之词，把湘鄂政务委员会主委程潜扣留起来了。这犯了很大错误，白崇禧以为不应有此一举，因为程潜在一年来对李、白很有助力。第一，他支持中央特别委员会；第二，他支持西征唐生智。此外程潜还是党国元老，扣留他不得人心，但大错铸成，白崇禧已无从补救了。
白崇禧于北上督师以前，令叶琪第十二军于五月二十九日以前集中石家庄，廖磊第三十六军于五月三十一日以前集中正定，时冯玉祥总司令不欲在会战前疲劳兵力，撤回博野及安国的第二集团军部队。张学良所率的奉军看到有机可乘，立刻分由康关、任邱袭径定县，企图切断京汉铁路，歼灭第三集团军。形势极为严峻，白崇禧顾全整个战局，急令叶琪率部至径定县、新乐增援，第三集团军至此才脱离险境，转危为安。
之后，白崇禧到石家庄晤阎锡山，那时已值夏初，阎氏还穿着棉衣、棉裤、棉鞋，衰老之态，令人吃惊。他说着一口的山西话，声音很小，听来十分费力。见面时阎锡山紧紧抓住白崇禧的手，说：“你来了，胜过十万雄兵。”又说，“如果西北军不从正定撤退，我是不会着急的。”言下颇有责备冯焕章总司令之意。白氏因知冯、阎以后关系不很愉快，固非偶然也。
此时，白崇禧的先头部队门炳岳师，在正定下车集中后，恰巧奉军戢翼翘的骑兵军迂回到正定后方来，立刻与门师发生激战，将其驱逐。随后奉军侦察机发现，从武汉北上的援军有百余列车。此事对奉军冲击很大，乃决定放弃京津。五月三十日，张学良、杨宇霆（1885—1929，历任奉军参谋长、东北陆军训练总监，奉军第三和第四军团司令，安国军参谋总长。张作霖死后，杨欲夺取东北军政大权，后被张学良卫士枪毙。）、孙传芳应张作霖电召，于凌晨一时乘火车离保定北上，七时抵北京，随即参加张作霖召开的军事会议，会后下令前线总退却。三十一日，第三集团军、第四集团军同时入保定，北京震动。随后张作霖离京返沈阳，在皇姑屯被日本人预置的炸弹爆发受伤毙命，局势为之发生重大的变化。
关于接收京津问题，谭延闿、张静江于五月二十七日从南京去徐州见蒋介石，认为阎锡山与日本素有关系，建议由阎负责接收京津。蒋介石五月二十九日到新乡晤冯玉祥，征求同意。三十日，又到石家庄与阎锡山，面示此项意见，阎氏同意承担接收京津任务，蒋家官书后来对此作出了这样的评论：“蒋总统因不敢信任冯玉祥，乃任阎氏为平津宪兵司令。”（见董显光著《蒋总统传》，第一卷，第一三四页。）（按：平津宪兵司令系平津卫戍总司令之误。）
第二集团军为攻击奉军主力，冯玉祥不得接收京津，自然心怀不满，阎锡山有见及此，特示好白崇禧以自重。六月十一日，阎锡山约白崇禧一同入京，阎锡山在铁狮子胡同设立卫戍总司令部，白崇禧则在香厂东方饭店设立前敌总指挥部。白崇禧那时只有三十五岁，成历史上为华南领兵到北京的第一人，心中充满了喜悦的心情。他对采访的记者说：“自古以来，凡是统一中国都是由北而南，从未有由南而北以完成此一神圣大业的。太平天国时两广军队曾一度进至天津，至于北京实以这一回为首次。”言下意得志满之状，别人也能体会出来。当时天津《大公报》蜚声海内，主笔为名记者张季鸾，他在六月十四日的《大公报》发表社评说：“广西军队之打到北京，乃中国历史上破天荒之事。”经过张季鸾这一评价，白的声誉更高了。古人言：“功高震主者身危。”历史教训，值得重视。
