西晋末年，八王之乱，八个司马氏皇族藩王混战不止。连连内战极大消耗了中原王朝的实力。西晋人口的锐减又引发了自西汉时就不断内附的匈奴、羌氐、鲜卑等部族的进一步南侵。中原板荡，五胡乱华，衣冠南渡，晋室过江。
晋朝自元帝南迁之后，重立政权，史称东晋。东晋成果建立起了皇族同地方士族的同盟关系，此时的南方士族正是37年前孙吴政权的中坚力量。所以东晋实质上是北方南渡士族同原先江东士族政治联盟后的共治政权。
图 衣冠南渡
当时的北方世家有东西王氏、庾、褚、谢、桓、郗氏等士族，而江南的世家包括顾、陆、沈、周、虞、孔氏。更进一步的解释，北方王家传自推翻董卓的司徒王允，南方的陆家和周家正是指挥夷陵之战和赤壁之战的孙吴大都督陆逊和周瑜的家族。双方在面临北方胡人作乱的威胁下结成了非常牢固的共生关系，并共尊司马氏为共主，继续维持晋朝法统。就这样，各大家族交替执掌朝局中枢，维护各自利益并很好的平衡了世家内部的权力。
南方的士族利益庞大，他们本就长期盘踞江东，家族脉络巨大，人丁兴旺，有着大量祖产田地和庄园。北方南渡世家依托司马家的分封同样得到了不少好处，拥有了属于自己的庄园和人口。在封建时代，土地和人口就是一个家族安身立命之本，大族可以通过影响到的人力资源，在战时组成部曲，形成家族族兵，听命于各大家族。
地方私兵本是潜在威胁中央统治的武装力量，但是因为东晋政权本就是士族控制，且族兵符合各大世家的利益基础，因此皇帝是很难有办法与已废除的，更别说面对北方的威胁，司马氏也不敢自废武功。
然而世家大族发展自己的利益并逐渐做大，这就自然而然的导致了东晋王朝的弱干强枝。当时的朝廷权臣由各大家族掌管，司马氏的嫡系军队非常少，因此一直东晋的皇帝一直无法有效控制权臣，这也是东晋一朝不停的出现军阀作乱的主因。王敦、苏峻、桓温、王恭、桓玄皆是如此，到最后东晋被刘宋轻易篡权，同样是因为皇室力量太过单薄所至。
东晋虽然名义上占据中国南方半壁江山，但实际上司马氏对长江中游的荆州一带鞭长莫及，而荆州地区又是士族霸占的重点。桓温北伐归来之后，荆州均实质上已经割据一方，成为士族门阀独立于晋朝中央的军阀集团。不过东晋的军阀并不止有一个，眼见占据东晋岁入一半的荆州被权臣掌控，司马氏将倚重的重点放在了北府军身上。
地处下游的建康城无法抵御上游荆州军阀的压力，但地处长江北岸的北府军却是一支战力不错的军队。北府军的主要构成是彭泗南渡的流民，由于永嘉之乱，江淮以北人民为自保纷纷堡聚，以宗族乡曲关系，大小割据势力众多，因此南渡的流民仍保持这一传统，加之东晋政府视他们为兵户一般对待，集中于京口、晋陵一带，因此其内部相维系的纽带作用很强。北府军中的刘、臧、赵、萧、何、徐、孙、檀等各姓大家，日后成为刘宋一朝的新起大族，自有其必然性。
北府军虽然不是世家势力，但同南渡的世家依旧有着千丝万缕的联系。在权臣当道的东晋，谢家因坚定支持司马家并挫败桓温篡位之意而被重用，后来正是在谢家的统领之下，北府军同苻坚的前秦军队来了一场兵力悬殊的秦晋之战，这就是历史上著名的以少胜多的淝水之战。淝水之战后前秦随即瓦解，北方再次陷入分裂，东晋得以继续保全。
图 淝水大战
不过，北府军虽然被东晋中央作为制衡荆州军阀的工具所用，但司马氏太弱，弱干强枝的局面不断恶化，这导致北府军也渐渐成东晋的肘腋之患。此后北府军将领刘裕凭借孙恩之变崛起。孙恩之变是一场有五斗米道宗教背景的民变，前后经历十一年之久，前期由孙恩领导，后期卢循成为主要首领。刘裕在镇压起义的过程中实力大增，并击败了荆襄军阀的挑战，最终携北府军阀篡晋成功，北府军内部强族一步登天，皆成刘宋朝臣。
图 京口的北府军故地碑牌
不过刘宋起家于军阀，因此吸取了东晋的教训，从一开始就将荆州襄阳、京口瓜洲等地军权把持在宗亲之手，避免了东晋时期弱干强枝的后尘。不过刘宋一朝虽避免了东晋军阀割据，却也犯了西晋宗亲藩王拥兵过重的失误，导致刘姓宗亲自相残杀，不过这些都是后话了。