秦王嬴政十三年（公元前234年），秦将李信攻打赵国，占领云中郡（今呼和浩特市城区和托克托县地域），为秦国占有。秦始皇二十六年（公元前221年），秦王嬴政统一六国，始称皇帝，天下分为三十六郡，今呼和浩特地区属云中郡范围。秦始皇三十三年（公元前214年），征发役徒连接和修缮战国时期秦、赵、燕三国长城。西起临洗（今甘肃省岷县），进入今大青山南坡与战国赵长城相连，进入今河北围场县境与战国燕长城相连，止于辽东郡东南部，延绵万余里。

西汉高帝元年（公元前206年），东胡被匈奴冒顿单于击败。今呼和浩特地区及乌兰察布地区是匈奴单于的游牧地，单于庭在阴山山地，活动于今呼和浩特地区，单于台设在今呼和浩特东。西汉元狩四年（公元前119年）春，汉武帝命卫青、霍去病率骑兵10万，出长城，封狼居胥，捣漠北。

东汉建和元年至永康元年（147—167），鲜卑南抄汗边，北拒丁零，西击乌孙，东却扶余，尽据匈奴地。东汉光和元年（178），鲜卑政权瓦解，一直到东汉中平元年（184），檀石槐后裔步度根拥众数万户，占据今呼和浩特及乌兰察布地区。