清末浙江平阳人。原名存礼，改名恕，后改名衡，字平子，号六斋。1886年（光绪十二年）移居瑞安，次年到上海。曾在上海龙门书院、金陵钟山书院、北洋水师学堂、上海求志书院任教。1891年撰成《六斋卑议》，揭露社会黑暗，抨击程朱理学，主张变法维新。主张设立议院，开设报馆，兴办学校，振兴工商。1901年在杭州求是书院任教，与陈虬、陈黻宸并称“浙东三杰”。晚年思想趋于保守，宣传“专制改进”之说。