今磴口县地区，秦始皇帝时属九原郡临河县辖区，亦是新秦地（自高阙向西南筑长城至鸡鹿塞南）。汉初为匈奴统辖地。汉元朔二年（公元前127年），朔方郡（治所朔方，在今鄂尔多斯市杭锦旗东北，亦有记载在今县陶升井麻弥图古城），其所领10县中治所在今磴口县境的就有：窳浑县（治在今沙金套海苏木包日浩特嘎查）、临戎县（公元前124年建，治在今补隆淖乡沙河古城）、三封县（公元前126年建，治在今哈腾套海苏木7公里处陶升古城）等。汉甘露三年（公元前51年），匈奴呼韩邪单于与汉朝议和后，汉遣宫兵护行，送单于出朔方鸡鹿塞（在今沙金套海苏木哈隆格乃口西沿上的石城）。有记载，在百年时间内，这里曾是朔方的繁荣而重要的地区。东汉时，朔方郡治所临戎（今磴口县补隆淖乡境内），仍有临戎、三封县及鸡鹿塞在今县境内，隶属并州刺史部。东汉末年至西晋，为河西鲜卑、西部鲜卑政权所辖地。