据《汉书·武帝纪》，元狩二年（公元前121年），匈奴昆邪王杀休屠王降汉，以其故地置酒泉、武威两郡。元鼎六年（前111年）又分置张掖、敦煌两郡。因地在黄河上游以西，故称河西四郡。四郡设置年代有不同说法。