晋汝南安成（今河南汝南东南）人，字伯仁。少有名望。西晋末，累迁至尚书吏部郎、镇军将军长史。渡江后官至尚书左仆射，因常酒醉不醒，人称“三日仆射”。王敦叛乱，有人主张尽杀王氏，他力保王导（敦堂弟）无罪。敦攻入建康（今江苏南京），他被杀。后导知其曾救己，悔未劝阻，因有“吾虽不杀伯仁，伯仁由我而死”之语。