代。但这个统一，是十分不稳定的统一，虚假的统一。国民政府实际上只控制了几个省。冯玉祥称雄于北方，是有名的西北王，控制了山东、河南、陕西、甘肃、青海以及宁夏等省。阎锡山则从山西省的大本营中向河北、察哈尔、绥远等省发号施令，在南方，李宗仁控制着广东、广西、湖南、湖北。中国实际上被分割得支离破碎，在北洋军阀被打垮之后进入了新一轮诸侯割据。只不过是旧军阀被新军阀取代而已。从某种意义上甚至可以说，所谓“北伐成功”，是在各路军阀的帮助下，让阎锡山的势力得以扩大。阎锡山是北伐成功的最大受益者。
中国又进入一轮新的分合之争的漩涡。共同的攻击目标消亡之后，曾暂时联合的各派力量又各自打起了小九九。
蒋介石谋算着要扩充以自己为首的“中央”的实力，削弱各地方派的实力，就假借祭奠孙中山总理亡灵的名义，把各路实力派头目请到北京，讨论所谓“善后事宜”。接着，又邀请各集团军总司令到南京开编遣筹备会议和国民党二届五中全会。蒋介石的目标是要“削藩”，因而引起各实力派头目的激烈反对。在此关头，阎锡山心里清楚，他预计到蒋、冯、李之间在政治削藩和军队编遣问题上注定会产生不可调和的矛盾，因此，就以“父病侍疾”为由，没到南京参加会议。部下以为这么重要的会议不去出席，是否会吃亏？阎胸有成竹地说：“到南京开会，若顺着冯、李，必取怨于蒋；若顺着蒋，又必取怨于冯、李。让他们闹吧，等双方都需要咱时，再去。”自己躲在北京和五台冷眼旁观，只派了一名亲信到南京探听风向。由于阎的缺席，军事编遣会议不得不延期举行。
到了1928年双十节，蒋介石又生出了新的点子，给各地方实力派首领加官进爵，想趁机把他们调离自己的领地，而后再实行裁兵。于是，任命冯玉祥为军政部长，阎锡山为内政部长，李宗仁为军事参议院院长。同时规定，在中央政府任职之后，应当长期住在南京。
对这种调虎离山的计谋，阎锡山一笑置之。他当即保荐自己的亲信部下赵戴文担任内务部次长，代行部长职权并长驻南京。
蒋介石决定在南京召开军事编遣会议，各集团军首领参加。上次会议，阎锡山躲避未出席；中央任职，他也巧妙地避开。很明显，他既不想让蒋介石束缚手脚，又不想与蒋介石发生正面冲突，而乐于观望冯、李等人与蒋争执，坐收渔人之利。但这次编遣会事关手中军权的去留，山西军队的命运，他不能不去南京出席。如何去，很是动了一番脑筋。坐火车从山西到南京，中间要经过其他集团军的防守区域，他认为很不安全。于是选了一条从天津乘船绕道上海，再往南京的路线。从天津出发时，包了一艘载重二千吨的新华轮。而这艘船返回上海时，意外触礁沉没。因此，十分谨慎小心的阎锡山在从南京返回天津时，曾为如何上路而大伤脑筋。最后想了个办法，是同时包用两艘船，一艘自乘，一艘随行，万一发生事故，可以马上救援。
军队编遣，涉及到各地方势力的生存，矛盾尖锐，冲突激烈自是必然。蒋介石为避免各家都把矛头对准自己，采取了利用矛盾，分化瓦解，挑拨离间，“以派制派”的策略。他先是让冯玉祥提出一个方案，冯的方案使一、二集团军明显比三、四集团军占上风，提出后立即遭到激烈反对。蒋又派何应钦拉拢阎锡山，授意由阎出面提出“在四个集团军之外，另加一个中央区”的方案。阎锡山的这个方案，既照顾了蒋介石的“中央”的利益，又使四个集团军形式上比较平衡，经过长时间的争吵之后，多数人倾向于阎锡山的方案。开会期间，蒋介石多次请阎锡山吃饭，而且常常是俩人密谈，话语间透露出对冯玉祥的不满来，善观风头的阎锡山自然心知肚明。他对蒋介石毕恭毕敬，表现得异常恭顺和小心。
会议决定成立全国编遣委员会，并制定了《国军编遣委员会进行程序大纲》，规定全国军队一切权力收归中央，各集团军无权自行调动和任免军官。这样一来，各地方实力派军权丧失，完全成为一个空架子。于是，各派首领如梦初醒，哪还有心思争吵下去，转而相互勾结起来，共同抵制编遣会议。见各地方实力派团结一致，蒋介石也没有更好的办法，只好同意暂不编遣，恼悻悻地宣布休会。
编遣会议激化了各派势力与蒋的“中央”势力的矛盾，成为引起新的一场军阀混战的导火索。同时，也使蒋介石看清了软的一手不能解决问题，下决心武力统一。由于在编遣会上，李宗仁反对最为激烈，言辞尖锐，直指蒋介石，蒋便首先将矛头指向相对弱势且内部不团结、不统一的桂系，以桂系随意免去湖南省主席之职为借口，集中兵力，进行讨伐。
1929年2月，蒋桂战争首先爆发。
桂系在发动反蒋前夕，曾分别派出代表到山西和河南，约阎、冯共同起事。冯玉祥对蒋介石早有一肚子不满，爽快答应一定出兵。阎锡山则采用老办法，哼哈应付，准备见机行事。战事一起，阎锡山盘算桂系胜利无望，便立即通电表示拥蒋。冯玉祥见状，也只得按兵不动。桂系孤军迎战，内部倒戈事件频发，外部又没有呼应配合，在蒋系的强大攻势面前迅速崩溃，到6月，几乎就全军覆没，李宗仁等首领人物都逃亡在外，蒋桂战争以桂系彻底失败告终。
对桂系战争的胜利，大大坚定了蒋介石采取强力消灭异己，解决地方实力派的信心，把下一个打击目标对准了冯玉祥。蒋介石先是散布冯勾结苏俄的许多谣言，于1929年5月7日，发出讨冯总动员令，声称“欲消弥内乱，非铲除军阀不可，欲铲除军阀，非根本扑灭封建地盘思想不可”，并用重金收买了冯的两位心腹大将。5月22、23日，韩复榘和石友三先后迅速通电脱离冯玉祥，拥戴蒋介石。战事未开而后院起火，冯玉祥受到沉重打击，一时无法举措。阎锡山从太原给冯玉祥发了封电报，劝冯出洋避避风头，同时表示自己愿意陪同出国。冯玉祥接到这个电报，见阎锡山在此困难关头肯于拉一把，因而对阎锡山颇为感激，随即于5月27日发表下野通电。他声称放弃军权，愿意出国考察，使蒋介石失去了对西北军使用武力的借口。
冯玉祥曾经与阎锡山联络过，请他起兵共同倒蒋。阎也十分清楚地看出，随着权势的增长，蒋介石决不会容忍地方实力派的存在，倒蒋同样是他的希望。但阎比其他人更有城府的地方，就在于他不轻易言战，不仓皇表态，而且在时机不成熟的时候，也更善于韬光养晦。从南京参加编遣会回到山西后，他立即将第三集团军司令部的牌子更换成“第三集团军结束办事处”，自己离开军队，回到五台河边村“闲居”。以这样的行动，向蒋介石表示：我阎锡山拥护中央，听候编遣，没有二心。以此换取蒋的好感，避免成为攻击目标。他一面应付编遣，一面与其他地方势力联络周旋，更重要的，他利用这个宝贵的时机，再次大力进行扩军。将晋绥军的步兵由原来的8个军扩充到10个，另外编成4个保安纵队，骑兵和炮兵也大大加强，使兵力增加到了20万人。
阎锡山在大力扩军，不断增强自己实力的同时，也不断地分析着形势，寻找自己可以利用的机会。他明白，面对蒋介石对冯玉祥步步紧逼的算计，如果一直沉默着“中立”下去，冯玉祥被灭，自己就会陷入孤立无援的境地，成为蒋介石可轻易解决的下一个目标。支持冯玉祥出国，是一注不露声色的巧妙筹码。在冯玉祥那里，会感到是与他站在一起，是对他的支持；在蒋介石那里，会感受到是冯、阎二人联手作乱；在阎自己这里，则是可以见机行事，左右逢源，进退有利的把戏：如果蒋介石还继续压他，他就真的联合冯玉祥反抗，如果蒋介石改变对他的态度，他就把冯玉祥作为礼物献出去。挟冯自重，身价自是大增。而为了击败冯玉祥，蒋介石一面竭力收买冯玉祥的部将，一面离间阎冯的关系。蒋介石致电阎锡山，委任其为北路军总司令，要求阎锡山帮助他进攻西北军，迫使冯玉祥出洋。阎锡山抓住这个时机，开始玩弄抬高身价的把戏。冯玉祥下野的通电发布后，阎锡山就公开表示：如果冯玉祥离国出洋，自己将与冯结伴而行。在给冯玉祥的电报中说：“我们将携手共同周游世界。”并邀请冯玉祥到山西面谈。冯玉祥于1929年6月21日，携妻女到了山西。阎锡山热情接待，举行隆重的欢迎仪式，并特地安排住在太原附近的名胜晋祠。除了派出专人陪同冯大帅游览散心之外，自己也隔三差五便亲自探望，送上一份份厚礼。同时还煞有介事地派人赴天津预定船票，认真准备出国的服装用具，并且给中央发电，要求撤销有关革除冯玉祥职务、开除党籍、下令查办的处分，表现出与冯同心不二的坚定姿态。这副慷慨激昂，患难与共的架势，使冯玉祥十分感动。
阎的这场表演，让蒋介石十分着急。他当然不能允许这两股势力联合起来对付自己，因此，亲自赶到北平，派孔祥熙等人执亲笔信请阎赴北平商谈处理西北善后事宜。还由中央常委和五院长分别致函，劝阎锡山不要出洋。为此，6月28日的《国民日报》还专门发了社论，称西北大事待阎商办，阎应以党国为重，不宜外出云云。阎锡山是否能否出洋，一时居然成为舆论关注的焦点。阎锡山看到自己的身价高涨，就将冯玉祥当作有效筹码，拉下脸来与蒋介石讨价还价。况且，北平是在晋绥军的控制之下，料定蒋无法对自己用强。因此，商谈中他态度强硬，一再表示必须和冯玉祥同时出洋。在看到蒋介石没有让步的迹象时，又借口有病，住进了德国医院，不再露面。蒋介石只好忍让，亲自带礼物去医院看望，并且甩出一个大的诱饵：如能扣留冯玉祥，不让他离开山西，那么，冯原来所据的地盘，可归阎接管。并委任阎为西北宣慰使兼办军事善后事宜。阎锡山以要挟达到了扩大地盘、扩大权力的目的，觉得这一次交易还是合算的，就很快答应了蒋介石的要求，自己不再坚持出洋，并允诺不让冯玉祥离开山西。
阎锡山到北京与蒋介石见面，在秘密交易中获利丰厚，心里自是得意。但在公开场合还是努力掩饰，仍表现出一副要与冯共沉浮的态度。他再次通电南京政府，声称自己坚决出洋，此举是“务回征车，共济艰难”，并表示说：“冯总司令昨已来晋，锡山若不同行，在冯总司令纵能谅解，不以卖友自利见责，其部属众多，又分在远道，岂能求其共谅？”重情义，重然诺的恳切之状，足以让人感动。原来，这却是与蒋介石商量好了的一番表演，目的是在继续麻痹冯玉祥。蒋与之配合，又派人苦劝一番。于是，阎锡山就突然得病住进医院，闭门谢客。为了造成实出无奈的影响，还给驻南京的各军代表发了一封电报，装模作样地表示：“牺牲前约，自古所难。然使有裨于国家，无背于信义，山非拘泥，亦不必争此小节。特以军民危难之秋，维系之道，端在信约。一有歧异则动摇随之，此际虽欲力践前言，亦不可得。”冠冕堂皇地表白这一通之后，阎锡山就退掉了已购好的往日本的船票，不谈出洋了，也不再与冯玉祥见面。
冯玉祥已经被迁往五台建安村，住所与周围隔绝，阎派了一名师长带着卫队名为保护，实为监视。蒋、阎在北平会晤的消息传来，他既吃惊又气愤。想不到让自己如此感动的盟兄弟，竟然是个背信弃义，卖友求荣的家伙。冯提出要与阎见面，阎总是托词不见。冯被戏弄多次，忍无可忍，有一次就开着汽车冲出建安村，声言要去太原。卫队师长极力阻拦，跪在汽车前，求冯一定不要出村，否则他会被军法从事。冯大怒不予理会，汽车仍然开出村去了。卫队师长急忙用电话通知沿途驻军，在通往太原的公路上，挖了一条大沟。冯的汽车无法通过，不得已只好返回。冯玉祥被阎锡山如此对待，异常伤心和恼怒，计划化装跑回西北军所在的陕西潼关。但从五台到潼关，有千里之遥，他的出格的高大魁梧的身材，无法改装隐蔽。难以行动，只好作罢。渐渐冷静下来之后，冯玉祥自然不甘于被如此捉弄，就设法采取行动，向阎的背后插一把刀，让阎也尝尝被夹攻的滋味。三方鼎立，能用的办法，无非是拉拢其中一方，孤立另一方。冯于是授意留在陕西主持西北军的部下宋哲元，设法直接与南京方面联系。按照冯玉祥的指示，宋哲元就