郭松龄倒奉虽然失败,但是,在军事上严重地削弱了张作霖的实力。冯玉祥的西北军占领直隶全境,与西北军占领的河南地区连成一片。张作霖派代表与吴佩孚的代表会晤于大连。
第二次直奉战争后,吴佩孚率领败军乘华甲舰驶离大沽口,辗转汉口、武汉、郑州、洛阳,上鸡公山下鸡公山,走遍了半个中国。穷无所归时,应赵恒惕之请,到岳州。孙传芳组织五省联军驱奉,吴佩孚认为出山时机已经成熟,派人到湖北征得萧耀南同意,乘决川舰抵汉,在查家墩任讨贼联军总司令,分两路出兵讨奉。张宗昌天天打电报给吴佩孚,尊呼“大帅”,表示:张宗昌是山东人,吴大帅也是山东人,山东人不打山东人,张宗昌愿服从吴大帅,欢迎吴大帅回山东。
大连晤谈,张作霖与吴佩孚大体取得了谅解,吴佩孚反奉转向联奉,与张作霖、张宗昌结成反冯的联合阵线,准备联合攻打冯玉祥。他宣称:对各方均愿化敌为友,只与冯玉祥一人为敌。孙传芳也响应吴佩孚结束对奉战争,冯玉祥忽然四面楚歌。
形势极为险恶,一场内战又迫在眉睫。冯玉祥考虑再三,认为本军在北方孤立无援,只有自己立即引退,转移张作霖的目标,才能避免重启战祸。1926年1月1日,他通电引退,要到苏联和德国去考察学习。通电后,他把指挥权交给了多年生死相从的部将,委任张之江为西北边防督办,李鸣钟、鹿钟麟等分掌军权。唯恐和平难保,冯玉祥命张之江、鹿钟麟将所有部队开驻平地泉以西,以此表示和中原无争。