在袁世凯还未称帝的时候，就已经因为宋教仁案，国民党人认为是袁世凯指使人干的，从而发动了二次革命，几个国民党人任督军的省宣布脱离北洋政府，要武力讨伐袁世凯。虽然南方很快在军事上就失败了，失去了在长江下游的重要根据地，但广东从此就基本上脱离了北洋政府的控制。
袁世凯称帝之后，蔡锷和妓女小凤仙从北京逃走，先到日本，再辗转经香港回到云南，在云南组织护国军，发动讨袁战争，西南各省纷纷响应。这也就意味着，西南也脱离了北洋政府的实际控制。这样，就形成了广东和西南实际上已经从北洋政府分裂出去的局面，加上外蒙古也宣布独立，就已经实际分裂了。
但这还只是局部性的分裂，更为严重的分裂则是北洋军系统内部也在袁世凯死后分裂了。袁世凯在世时，各省督军就在自己的辖区内形成了军阀化的趋势，为了争夺地盘和势力范围，即已经有了分裂的苗头。但袁世凯好歹算是北洋共主，仍然能够维持表面上的统一局面，不至于分裂。
袁世凯临死前就已经取消了帝制，恢复了黎元洪的副总统职位，段祺瑞是国务卿。袁世凯死后，黎元洪继任大总统，段祺瑞为国务总理，时为江苏省督军的冯国璋为副总统。
黎元洪认为，既然恢复共和法统了，当然就应该是恢复临时约法，他就要继承袁世凯的一切权力，是一个有名有实的大总统。而段祺瑞当时的想法并不是这样，他想的是让黎元洪当傀儡总统，实际上由他来掌握权力。段祺瑞认为，当时南北分裂的局面靠谈判解决不了，只能先整军经武，武力统一全国，然后再说果体的问题。
不过，段祺瑞实际执政之后，当时的社会舆论都吹捧段祺瑞，说他参与了逼迫清帝逊位，又参与了迫使袁世凯取消帝制的活动，算是二次手造共和，所以他也是赞成共和的。只是他认为，无论共和与否，都应该首先统一全国，在袁世凯死后，他也是把武力统一全国当成他的主要任务。
一战爆发后，黎元洪认为中国不应该掺和，而段祺瑞认为应该加入协约国。段祺瑞嘴上说宣战是为了维护国家权利，实际上是希望借着加入协约国的机会，向列强借款，采购装备，加强自己的军事实力，为武力统一全国做准备。黎元洪当然也是知道段祺瑞的真实目的的，所以他反对参战。
总统府和国务院在是否参战的问题上闹得不可开交，最后是张勋以督军团会议的名义率军入京调停，结果趁机复辟帝制，很快就被段祺瑞消灭了。这算是段祺瑞第三次手造共和，就更加以共和功臣自居了。再次恢复共和之后，黎元洪辞职，冯国璋继任为大总统，离开驻地南京，进京上任，段祺瑞仍为大总统。
冯国璋进京后，段祺瑞还想继续把冯国璋也当成黎元洪来对待。这其实也不无道理。冯国璋的军队和势力范围都在长江中下游，他进京的时候并没有带军队来。所以，虽然冯国璋有军队，但在北京，还是在段祺瑞的控制之中。段祺瑞就以对待黎元洪的态度对待冯国璋，但冯国璋却不干了，而且和段祺瑞唱反调。段祺瑞在湖南和广东的护法军打仗，冯国璋却提出了和平统一应该和武力统一双管齐下，冯段之间就开始出现了分裂。
冯段分裂之后，冯国璋先动手，撺掇直系将领通电要求湖南停战，并从中掣肘，致使段祺瑞主导的湖南战争失败，段祺瑞只好通电下野。冯国璋顺势撤换了段祺瑞的晥系将领湖南省督军傅良佐和晥系将领倪嗣冲的防区。段祺瑞下野后，自然也不会甘心认输，先是拉拢直系曹锟，接着又派亲信徐树铮唆使张作霖率奉军入关，向冯国璋施压。冯国璋在北京感到危险，就想回老根据地南京，汇合自己的军队。走到蚌埠，又被段祺瑞派倪嗣冲阻拦，冯国璋只能被迫返回北京。
一番折腾之后，冯国璋只能低头认输，又是通电罪己，承认错误，又是派人请回段祺瑞，继续当国务总理。段祺瑞又操纵安福国会，把冯国璋赶下台，另外选举北洋元老、没有军队的徐世昌为大总统，又让冯国璋原来的部下曹锟当了副总统。徐世昌上台后，又希望拉拢冯国璋，对抗段祺瑞，请冯国璋出山。结果冯国璋在北京的时候，于1920年元旦前两天突然病逝，从此直系进入以曹锟为首的时期。
但在冯段两人的这场斗争中，作为北洋军阀中实力最强的两大元老，他们之间如此明争暗斗，北洋系就已经完全分裂了，直皖矛盾已经不可调和。段祺瑞主张武力统一，直系则主张和平统一，冯国璋死后，曹锟和吴佩孚也坚持和平统一，并批评段祺瑞，最终导致了直皖战争。之后，得胜的直系控制北洋政府，段祺瑞又唆使奉系张作霖进攻直系，第一次直奉战争中奉系失败，两年后又卷土重来，击败直系。
北洋政府如此有枪便是草头王，地方上更是如此，各地军阀纷纷盘踞一方，割据混战，四川更是分裂了好几股势力，相互争斗，全国就乱成了一锅粥。一直到1927年广州国民政府北伐，到1929年张学良宣布东北易帜，北洋政府才算是落下帷幕，全国又进入表面上的统一。而全国实质性的统一，则是在1950年西藏宣布和平解放之后的事了。
