从那以后，江南大族纷纷拥护司马睿，司马睿在建康便稳固了地位。
后来，北方战乱不止，一些士族地主便纷纷逃到江南避难。王导劝说司马睿把他们中间有名望的人都吸收到王府来。司马睿听从王导的意见，前后吸收了一百多人在王府里做官。
司马睿在王导的辅助下，拉拢了江南的士族，又吸收了北方的人才，他的地位就日渐巩固了。
公元317年，司马睿在建康即位，这就是晋元帝。在这之后，晋朝的国都一直在建康。为了和司马炎建立的晋朝(西晋)区别开来，历史上把这个朝代称为东晋。
晋元帝总认为他能够得到这个皇位，都是凭借王导、王敦兄弟的帮助，所以，对他们特别尊重。他封王导担任尚书，掌管朝内的大权，又让王敦总管军事，又把王家的子弟封了重要官职。
当时，民间流传着这样一句话：“王与马，共天下。”意思是：东晋的大权，由王氏同皇族司马氏共同掌握。
王敦掌握军权后，便不把晋元帝放在眼里。晋元帝也看出了王敦的骄横，于是渐渐疏远了王氏兄弟，另外重用了大臣刘隗和刁协。这样，刚刚建立的东晋王朝内部，又出现了裂痕。
石勒读《汉书》
晋元帝即位不久，汉国国主刘聪就病死了。汉国内部也闹起了分裂，刘聪的侄儿刘曜做了国主。他觉得再用汉朝的名义已失去了意义，便在公元319年改国号为赵。汉国大将石勒在与晋朝的征战中，扩大了势力，不愿再受刘曜的管束，也自称赵王。