西晋末年，北方少数民族趁西晋王朝内乱衰落而大举入侵，很快就灭掉了西晋王朝。西晋王室成员多数死于八王之乱和少数民族铁蹄之下，只有个别人因为远离中原而保住了小命，琅琊王司马睿就是这些幸运者当中的一个。

司马睿是晋朝王室中亲属关系比较疏远的一个，所以一直不太得志，很晚才被封为琅玡王。司马睿和名士王导关系一直很好，王导见天下大乱，知道北方肯定守不住，于是全力拥戴司马睿，决心在南方复兴晋室。

后来司马睿被派去镇守建康，王导也跟随在他左右。司马睿虽然贵为皇族，但在民间，人们还是把司马家族看作是地位不高的姓氏。他到建康一个多月了，还是没有人去朝见他，尤其当地的大姓，根本不把他当一回事。王导因为这事而深感焦虑。

王导有个堂兄名叫王敦，是当时很有名望的人，他受到王导的邀请前来朝见司马睿。王导对他说：“琅玡王虽然品行仁德，但名望还不够高。你在这里已经很有名了，应该想个办法来扭转这个局面。”王敦同意了。

三月禊节的时候，江南一带的风俗是都要到江边求福消灾，司马睿也亲自前去观看。王导让他坐上华丽的轿子，仪仗队在前面声势浩大地开道，王敦、王导和北方来的名士们都骑马在周围扈从。纪瞻、顾荣等人都是当地名望极高的名士，他们看见王敦等那么有名望的人都对司马睿恭恭敬敬的，心里非常吃惊，当时就不由自主地跪在路边向司马睿行礼。王导乘机又出了个主意，他对司马睿说：“从前凡是能够统治天下的，没有一个不是尊老敬贤的人，他们都询问当地的风俗，虚心坦诚地招揽天下的贤才豪杰。更何况现在天下大乱，国家分裂，我们的建国大业才刚刚起步，现在最重要的事情是得到民心。顾荣和贺循他们两个是当地名门之首，应该把他们吸引过来以便收买人心。他们两个如果来了的话，别人就没有不来的了。”司马睿就派王导亲自登门拜访顾荣和贺循，他们两个本来就很惊叹司马睿的威势了，再加上王导前来邀请，欣然前去朝见司马睿。当地其他名士听说连他们俩都去朝见司马睿了，也纷纷前来尊奉，司马睿的地位就这样确定了下来。

洛阳被匈奴攻了下来，中原人大多都逃到江南地区避难，王导劝司马睿招揽其中的文人学士，让他们为新政权服务，使江南地区人口兴旺，社会也比较安定。王导还劝司马睿尽量克制私欲，生活节俭，为国家安定控制自己，所以很受司马睿的信任，司马睿曾经称王导是自己的萧何。两人关系也越来越亲密，当时人们都很尊敬王导，称他为“仲父”。

司马睿称帝，建立东晋王朝后，任命王导为丞相、军谘祭酒。桓彝刚到江南的时候，见东晋力量弱小，对周说：“我因为中原有难，所以才逃到这里，现在这里力量如此弱小，怎么办呢？”很忧虑。后来见到王导，两人交谈了很久，回来对周说：“刚才见到了管仲，我再也不担心了。”从北方过来的士人经常约在一起到新亭聚会喝酒。有一次周在宴会中叹气道：“风景还是和以前一样，但放眼望去，江山已经变了。”在座的人都感伤得流下眼泪。只有王导很不高兴，他严肃地说“：我们现在应该齐心协力为朝廷做事，早日收复中原，为什么要在这里流泪呢？”

司马睿上朝的时候，命令王导到御座前和他一起坐，王导坚决不同意，他说“：如果太阳下降到和万物一样的高度的话，那怎么照耀万民呢？”

后来王敦因为朝中大臣争权夺利而受排挤，起兵造反，刘隗劝司马睿把王家人全部杀掉，王导也受到牵连，大家都很为他担心。王导对东晋很忠心，他率领全家20多口人每天早上都到朝廷待罪。司马睿念王导一向忠心耿耿，特意把朝服赐还给他，并召见了他。王导跪下叩头谢罪道：“逆臣贼子哪个朝代没有？没想到今天居然出现在我们王家了。”司马睿光着脚下去把王导扶起来说：“茂弘（王导的字），我正要派你去地方上就任，你都说些什么呀！”于是任命他为安东将军。当年司马睿登基前，王敦认为他很贤明，怕不好控制，想改立别人为帝，王导坚持反对才制止住。王敦叛乱后很快就控制了朝政，他对王导说“：当初没有听我的话，结果差点导致我们王家灭族。”但王导仍然坚持自己是对的，王敦没办法说服他。

司马睿死后，晋明帝即位，王导被任命为辅政大臣，升任为司徒。王敦再次兴兵叛乱，但不久就生了病，王导为了制止叛乱，于是声称王敦已经病死了，率领王家子弟为王敦发丧。大家以为王敦真的死了，斗志高涨，为最后打败王敦打下了基础。

王导死后，皇帝在朝堂追悼了他三天，他的葬礼是东晋群臣中规格最高的。王导为东晋王朝的建立和巩固立下了汗马功劳，王氏家族也成为东晋王朝史上最显赫，地位最高的家族，人们把这种情况称为“王与马，共天下”。