这时，孙中山决定北伐给了张作霖底气。孙中山在革命屡遭挫折以后，于1919年10月改组中华革命党为“中国国民党”。1920年8月，孙中山命令援闽粤军回师广东，陈炯明率部于10月28日攻克广州。11月，孙中山重回广州，重组护法军政府，任命陈炯明为广东省长兼粤军总司令。1921年5月5日，以孙中山为非常大总统的中华民国政府在广州宣告成立。孙中山在就职宣言中公开宣布要“戡乱图治”。1921年6月至8月，民国政府所组织的粤军西征广西取得重大胜利，摧毁了旧桂系的老巢，旧桂系各部相继溃败，陆荣廷通电下野。陆荣廷是支持直系的，此次粤军西征等于是剪除了直系的一个同盟，而且孙中山在西征之后号召所辖各军“于平桂之后，再做一番工夫，以统一中国”。1921年12月14日，孙中山在桂林召开军事会议，会议决定分兵两路北伐，李烈钧率滇、赣各军为第一路，进取赣南、鄂东；许崇智率本部粤军为第二路，与湘军会合，出湖南直趋武汉，两路军队共约4万人；其他滇、黔、川军则分别由各辖区进发，与湘南各军相策应，总人数号称20万。