东晋高平金乡（今山东金乡北）人，字道徽。惠帝时，曾任中书侍郎。永嘉之乱中，宗族乡人共推为主，举千余家避居峄山(在今山东邹城），三年间，众至数万。东晋初，受命镇邹山（即峄山），为兖州刺史。明帝时，与谋平定王敦之乱。迁车骑将军，都督徐、兖、青三州军事，镇守广陵（治今江苏扬州）。明帝死，与王导、庾亮等并受遗诏辅成帝。平定苏峻、祖约之乱后，进位太尉。病危时，荐蔡谟及侄迈继统其军。