经过八王之乱后，西晋王朝被迫南迁，司马睿在建康安顿下来即位。王导代表着江北大世族，带着资源和势力跟着司马家南下，对东晋有再造之功。不过强龙也需要地头蛇的扶持，当时在江南最有势力的是顾荣，他和王导联合起来支持司马睿的政权，才让摇摇欲坠的司马政权稳定下来。可以说，东晋王朝从一开始就得仰仗江南和江北世族的支持。
新建立的东晋政权实际的主导者其实就是这些大世族。我们熟知的“王与马共天下”就是这个时期。“王”指的是王导、王敦兄弟，后边的“马”才是皇帝所属的司马家。
当时东晋的主要军事实力都是在王导、王敦兄弟手中。晋元帝司马睿当然不甘心总是被王氏兄弟压着，所以一直找机会想削弱王氏的势力。他不断疏远王导，重用戴渊，刘隗，刁协等人，并让他们在扬州征兵，用来制约拥兵自重的王敦。公元322年，王敦发动叛乱，很快占领建康，戴渊和刁协被杀，刘隗北逃，王敦权势更是一手遮天。
司马睿死后，他的儿子司马绍即位，就是晋明帝。晋明帝要讨伐王敦的时候，王敦突然病重。在病榻前他跟自己的幕僚商议后事，提出了两个方案：一个就是再次发兵攻打建康，把司马家的天下抢过来；第二就是把军权交给哥哥王导，以后的事就让哥哥自己做主。
你看，说是“王与马共天下”，但是谁在前很重要，“王”在“马”前是由当时的实力决定的，皇帝没有自己的势力，也很憋屈。王敦采取了针对司马家的军事行动，结束以后，司马家还必须敬重王导，不能把他们王家如何。
其实整个的南朝都是这样，世族才是真正的老大。无论是经济实力还是军事实力，世族才是更强大的一方。皇帝们只能小心翼翼的在这些世族中间周旋。
东晋时期有两个不同的势力范围和各自的军事力量。第一支是在长江中上游的荆州和益州，他们的代表有出自寒门的陶侃和世族桓温，这批人的目标是要北伐，打回老家去。第二支力量就是在长江下游的势力，他们属于北府兵系，都满足于南方的小日子，不喜欢北伐，甚至还很痛恨第一支力量去搞北伐，所以他们会在后边搞很多小动作去阻挠牵制北伐。
这两股势力一直明争暗斗，直到后来出身北府兵系的刘裕，才首次联合了两家。这也是因为刘裕不是世族，在南方没有自己的利益，所以他才能有决心去北伐。刘裕整合了两家力量之后，先是平定了孙恩、卢循之乱，然后又打败桓玄，后来，他先打到洛阳，到了公元416年，甚至带兵打进了长安。但是刘裕不是世族，他在南方的根基就不稳，也不敢在北方待太久，很快又带兵回到了南方。
刘裕回到南方之后，开始整顿世族，大力改革，推出了土改政策，当时叫“土断”。什么是“土断”？这个要从当时的户籍制度说起。当时人口的管理有两套并行的制度，“黄籍”和“白籍”，“黄籍”是当地南方人原有的户籍，而“白籍”是单独用来管理从北方迁移来的人口。黄和白指的是登记所用的材料的区别，“黄籍”用的是竹简，而“白籍”用的是当时的高级材料纸张。八王之乱的时候，北方大世族被迫南迁，不仅带着家人和亲戚，同时还有他们的门客和部曲，部曲就是他们自己的私人武装。这些北方人口逃难来到南方，本来属于临时暂住，所以就给他们搞了一个单独的户籍制度。
要明白这些北方大世族带着自己的私人武装，这是一股庞大的力量，他们动用资金和力量，圈出大片的庄园，形成了自给自足的经济。因为他们属于难民身份，朝廷就没有意愿向他们征税。结果他们站稳脚跟后就赖着不走了，同时由于还享受了不纳税的好处，顿时让“白籍”变成了一种特权的象征。可以想象，这其实就是在挖国家的墙角，而且越挖越大。因为很多人活不下去的时候，就会想着逃避朝廷的赋税，来投奔这些“白籍”的大户。
当纳税人越来越少的时候，朝廷肯定就撑不下去了，所以必须改革。最简单的办法就是让“黄籍”和“白籍”合二为一，从而取消“白籍”的特权。但是这样肯定会损害这些大世族的利益，他们就联合起来反对。桓温当权的时候试过，阻力太大，失败了。现在刘裕掌握大权，再一次尝试。
刘裕还同时精简政府，消除各种苛政，减轻百姓税赋，只可惜他在位两年就病死了。不过他的好政策被继承下来。到了文帝后期，南方出现了少有的兴盛，史书里的记载是“内外晏清，四海谧如”。
像刘裕这样的强人，虽然他敢动世族的奶酪，但是他心里也明白那些世族人还是瞧不起他。在《宋书》里记载了一个故事： 有一个中书舍人叫王弘，就是刘裕的高级秘书。有一天刘裕对他说：“你要是想提高自己的地位，你得去拜访一个大佬，他就是王球，因为他是世族王家的领袖。你得去他家里拜访，坐下来，那才算混的好，否则只是跟着姓刘的，姓殷的混，没有出息的。” 刘裕贵为皇帝，想照顾一下自己的秘书，去王家镀镀金。然后又补充说：“你到了王球家，就说是皇帝让你来坐坐的。” 王弘厚着脸皮去了王球家，也按照刘裕教的说了，但是王球根本不买账，直接就怼回来，说：“算了吧，别在我这儿胡扯”。王弘被羞辱了一番，灰溜溜的回来跟刘裕告状，刘裕也没有办法，只能摇摇头，咽下了这口气。
这其实是整个南朝的现实，任何的皇帝在第一等的世家大族面前也都是小心翼翼，忍气吞声的。