西晋灭亡后，北方一些少数民族贵族和汉族地主，纷纷建立割据政权，彼此混战。在南方则以建康为中心，出现了司马睿建立的政权。为与西晋政权相区别，历史上将司马睿重建的晋朝，称为东晋。
东晋是倚靠北方和南方的世家大族的支持而建立的。司马睿是司马懿曾孙，十五岁嗣位为琅裢踔后，便交结琅玡郡大世族王导。王导见西晋天下大乱，形势利于自己建立王家的小朝廷，于是对司马睿“倾心推奉”。司马睿对王导也“雅相器重，契同友执”，着意拉拢。西晋永嘉元年（307年），司马睿以安东将军、都督扬州江南诸军事，移镇建康（今南京）。他便以王导为谋主，遇事找他咨询，对他倍加亲信。
司马睿初到建康，江南世族都认为他是平庸之辈，已上任月余，无一望族前来拜访。王导对此甚感忧虑。三月初三，为当地人的“禊节”（到水边求福去灾），在王导导演下，演出了一幕“戏剧”。这一日，司马睿以察看官民欢度禊节为名，坐豪华官轿，排出威严仪仗队列，由王导及其从兄王敦（时任扬州刺史）率北方一些名士，骑马簇拥轿后跟随，以炫耀司马睿尊显威严。江南名门望族顾荣等见此阵容，大为震动，速到路旁拜见司马睿。此后，司马睿也乘机派王导登门拜访顾荣、贺循两家江南最大的世族，请他们出仕为官。于是，在顾、贺二人带动下，江南世族纷纷拥护司马睿。一时“吴（吴郡）、会（会稽郡）风靡，百姓归心”，司马睿终于得到了江南大族的合作。
此时，北方大乱，江东则属于安定之地，中原世族大量南逃，“中州士女避乱江左者十六七”。王导又劝司马睿“收其贤俊，与之共事”，努力争取北方世族的支持。司马睿将其中有名望的一百多人辟为属官，称为“一百零六掾”。司马睿因得南方及北方南迁两部分世族的拥护，在江南站稳了脚跟。东晋大兴元年（318年），西晋愍帝为刘聪所杀，司马睿便在建康正式称帝，是为晋元帝，建立东晋王朝。东晋政权既是西晋司马政权的延续，也是集中代表南北世族利益的政权。
司马睿自知王导辅佐自己再造晋室，功劳极大，而且王导又是联系南北世族的关键人物，便对他极为重视。在登极大典上，竟然要拉王导与他同坐御床，共受百官朝拜。这是历史上从未有过的事。因王导坚辞不受，才未实现。但王氏兄弟在东晋政权中待遇特殊，显而易见。当时，王导位至宰辅，掌握中央行政大权；从兄王敦手握重兵，镇守荆州。其他诸多王氏家族中人，也都官居要职。在东晋朝中，司马氏有其位，而王氏家族有其权，王家与司马氏几乎“平起平坐”。所以当时有“王与马，共天下”的舆论，这如实反映了东晋初年特异的政治状况。
东晋政权的性质既然如此，它必然千方百计优抚世家大族。在政治上，“举贤不出世族，用法不及权贵”，多方面加以照顾。在经济上，东晋政权也处处维护大族利益，纵容他们封山占泽，兼并土地，大量荫庇私佃客，使得大族经济基础越来越巩固。司马睿对南下投晋的北方世族，照应更多。太原王峤来归，马上“给钱三十万，帛三百匹，米五千斛，亲兵二十人”，帮助重建世族经济。
世家大族为晋王朝的阶级基础，其腐朽、贪婪的本性，也给东晋政权带来致命的弱点，造成了长期混乱的政治局面。
首先是大族之间互相争夺，彼此倾轧。支持东晋政权的南北大族，先后交替执政的有王（王导、王敦）、谢（谢安）、庾（外戚庾亮）、桓（桓温、桓玄）四大族。在抵抗北方少数民族贵族势力的进攻、保护江南汉族地主利益的前提下，南北世族能暂时联合，拥戴司马氏。但在司马氏与各家世族之间，北方南迁世族与南方土著世族之间，北方世族内部几大家之间，都存在各种利害冲突和矛盾斗争。在东晋八十多年中，大族起兵反晋及各家大族互相攻杀的事件层出不穷。
东晋建立不久，便有南方强族周饔肫渥又苒南嗉塘合南方世族，阴谋起兵，攻打北方当权世族的事件。永昌元年（322年），王敦发动反晋叛乱，一度率兵攻入建康。后来因王导及朝官消极抵抗，王敦篡晋野心未能实现，但司马睿却因此忧愤而死。东晋咸和二年（327年），镇将苏峻、祖约又联合起兵，以反对庾亮专权为名，攻入建康，因遭到大世族陶侃等起兵抵抗，才告失败。