秦朝将今鄂尔多斯达拉特旗、杭锦旗等北部地区划属九原郡（郡治九原，在今包头市西）；将鄂托克旗、鄂托克前旗等西南部地区划属北地郡（郡治义渠，在今甘肃省西峰市）；将准格尔旗等东北部地区划属云中郡（郡治云中，在今托克托县古城村）；将伊金霍洛旗、乌审旗等东部和东南部地区划属上郡（郡治肤施，在今陕西省榆林市东南）。秦二世元年（公元前209年），中原各地爆发农民起义，原先被秦朝迁徙到边地的民众逐渐离去，匈奴重新占据河南地，成为右贤王等右方王将的统辖地。