1961年后，临河县调整人民公社规模，划分为20个农村人民公社、1个镇人民公社。1970年，巴彦淖尔盟（今巴彦淖尔市）革命委员会机关迁驻临河县解放镇。同年，将临河县城关人民公社划分为城关和团结两个人民公社。1983年，临河县人大常委会和人民政府在全县实行“政社分开”，以原镇、社辖区为基础，建立镇和乡人民代表大会和人民政府。

1984年12月11日，国务院批准，撤销临河县，设立临河市（县级）建制，以原临河县的行政区域为临河市的行政区域，隶属巴彦淖尔盟。临河市在城区设立街道办事处，作为市人民政府的派出机关；在农村仍为乡、镇建制。1985年，将狼山乡改建为狼山镇；新华乡改建为新华镇。1997年，将黄羊木头乡、干召庙乡分别改建为2个镇，并相应地建立镇人民政府。