袁世凯的倒行逆施招致南方革命党人的坚决反对，爆发了护国战争。面对全国上下声势浩大的反袁浪潮，袁世凯被迫宣布取消帝制，恢复中华民国。袁世凯起用段祺瑞为国务卿兼陆军总长，以期靠段祺瑞团结北洋势力，但各省并未就此停止军事行动。1916年6月6日，袁世凯因尿毒症不治而亡，归葬于河南省安阳市。袁世凯的死，标志着北洋军阀割据时代的开始。
袁世凯死后，皖系军阀和直系军阀之间的矛盾加深。皖系军阀段祺瑞以国务院总理的身份掌握着政府实权，这不仅招致北洋军阀内部，连北洋系以外的其他势力也对此极其不满。1917年7月，孙中山在广州发动护法运动，段祺瑞以国务院总理身份敦促直系军阀南下作战。但直系军阀在前线擅自停战，吴佩孚更是孤军千里北上，皖系军阀与直系军阀的矛盾至此不可调和。
皖系军阀与直系军阀明争暗斗的时候，还有一股力量在东北悄然崛起，这就是以张作霖为代表的奉系军阀。严格意义上说，奉系军阀并不是北洋系的嫡系，但张作霖的发家，始终都离不开北洋系的支持，而他的身上，也秉承着北洋系一以贯之的武夫当国思维。直皖战争爆发时，直系军阀选择与奉系军阀结盟，从而打败了皖系军阀，直系军阀曹锟入主北京城。