在距今50万年前的旧石器时代初期，呼和浩特地区就有古人类生存，创造了“大窑文化”。该地区历史上古城较多，已发现的有战国、秦汉时期的云中城和北魏时期的盛乐城以及辽、金时期的丰州城。该地区可追溯的建城历史有2300余年。

赵武灵王元年至二十八年（公元前325一前298年），实行“胡服骑射”的赵国逐步强大，向北开拓疆土，打败林胡和娄烦，开始修筑长城，自代郡治（今河北省蔚县）傍阴山下，至高阙（今巴彦淖尔市乌拉特中旗石兰计山口）为塞，并置云中郡（今呼和浩特市托克托县境内，辖今大青山以南地区）、雁门郡（辖今乌兰察布市凉城县岱海以南地区）、代郡（辖今乌兰察布市丰镇市、兴和县南部地区）。又在云中郡的原阳（今呼和浩特市东南）建立训练骑兵基地，并修建九原城（故址在今巴彦淖尔市乌拉特前旗三顶账房）。