抗日战争时期，八路军主力部队之一。1937年8月25日由红军第二方面军和第二十七、二十八军及独立第一、第二师等部编成，辖第三五八、三五九旅和教导团，共一万四千余人。贺龙任师长，关向应任政委。挺进晋西北，创建抗日根据地。1938年，以雁北支队进至（北）平西，与晋察冀军区邓华支队组成八路军第四纵队，挺进冀东；以第七一五团、师骑兵营一部和游击第四支队组成大青山支队北进，开辟大青山抗日根据地；师主力挺进冀中，粉碎日军三次围攻。部队得到发展，成立独立第一、二旅。1940年2月返回晋西北，粉碎日伪军“扫荡”，参加百团大战。11月兼晋西北军区。1940年，第三五九旅进至陕北延安南泥湾，开展大生产运动。1942年6月，第一二〇师隶属陕甘宁晋绥联防军。1944年10月，第三五九旅一部组成第十八集团军独立第一游击支队，南下广东，后返回湖北大悟山；该旅另一部至河南新安，后挺进东北。1945年8月，第一二〇师改为晋绥野战军，参加全国抗日大反攻。抗日战争期间，第一二〇师暨晋绥军区部队歼灭日伪军十二万余人，部队发展到近十万人。解放战争开始后，主力进入陕北，编入西北野战兵团。