875年，洛泰尔的儿子、意大利国王、皇帝（此时的中法兰克王国只剩下了意大利北部）路易去世，意大利北部的一派人表示支持卡洛曼为皇位继承人。但是教皇约翰八世选立“秃头”查理为继承人。876年、877年，“德意志人”路易二世、“秃头”查理先后去世，卡洛曼最终得以越过阿尔卑斯山，被承认为北意大利的国王。“秃头”查理比“德意志人”路易晚死一年。他曾试图趁侄子在东法兰克立足未稳之机占领中法兰克王国的图林根、萨克森等地。
876年，“秃头”查理侵入东法兰克，被“小路易”打败。“小路易”将东洛林并入自己的版图。叔父“秃头”查理去世后，“小路易”于879—880年间趁机入侵西法兰克，企图一举统一整个法兰克帝国，但最终被势力强大的法国领主们所击败。他不得不与法国人达成《利贝蒙条约》。根据880年的《凡尔登条约》和《利贝蒙条约》，“小路易”获得西洛塔林基亚，即中法兰克王国的西部。至此，法兰克帝国的分割大致成形。东部与西部之间的界线在整个中世纪几乎没有改变过。876年，“胖子”查理成为士瓦本国王。879年，垂死的卡洛曼将意大利王位让给他。卡洛曼去世后，“胖子”查理于881年由教皇约翰八世加冕为法兰克帝国皇帝。
882年，“小路易”死于法兰克福。其子先于他死亡，于是东法兰克王国王位落入弟弟“胖子”查理即查理三世的手中。在几个哥哥去世之后，“胖子”查理又重新恢复了东法兰克王国的领土完整。至于西法兰克王国，“秃头”查理的几个后代子孙相继死去之后，只剩了他一个年幼的孙子。“胖子”查理抓住机会，扩展自己王国的疆土，但没取得什么成果。后来，西法兰克王国的贵族将“胖子”查理选为西法兰克国王，在表面上重新实现了加洛林王朝对整个法兰克帝国的统治。这是法兰克帝国的最后一次统一。就在加洛林王朝内部的混战期间，新一轮蛮族入侵浪潮到来。
从850年起，阿拉伯人西侵，占据了地中海沿岸的一些地方。匈奴侵掠东法兰克后，再西进至法国的勃艮第、图卢兹。破坏性更大的斯堪的纳维亚半岛的维京人占据了西法兰克北部的鲁昂等地，并有计划地抢掠教堂和修道院，引起法国一片恐惧。但是，“胖子”查理却无力抵御来自蛮族的冲击，因此于887年被德意志的贵族罢免，最后死于狱中。“胖子”查理的倒台标志着法兰克帝国的彻底瓦解。此后，加洛林王朝统治的东法兰克王国分裂为5个公国，即法兰克尼亚、萨克森、图林根、士瓦本和巴伐利亚。其中只有东部的法兰克尼亚还在加洛林王室的名下。887年，“胖子”查理的侄子“卡林西亚的阿努夫”在法兰克福宣布继承东法兰克国王之位。
阿努夫是卡洛曼的私生子。他从父亲手中继承了卡林西亚公国（在奥地利境内）。阿努夫虽然是私生子，但在为数不多的加洛林家族父系成员中，却是唯一成年且能力相对出众的。887年11月，他参与了东法兰克贵族们在法兰克福发动的、旨在推翻“胖子”查理的叛乱。然后，阿努夫被推选为东法兰克的国王，但是西法兰克、意大利、勃艮第等国拒绝承认其国王的地位。这些王国各自推选自己的国王，表面上统一的加洛林帝国顷刻瓦解。