东汉初南阳宛县（今河南南阳）人，字子颜。新莽末年，亡命渔阳（治今北京密云），以贩马为业。后归刘秀，为偏将军，征发渔阳等郡骑兵，助刘秀消灭在邯郸称帝的王郎，并镇压铜马、重连等部起义军。刘秀即位后，任大司马，封舞阳侯。后率军平定刘永等割据势力，屡建战功。建武十一年（公元35年），攻灭割据益州的公孙述。