春秋战国时期，今乌兰浩特市境为东胡活动地区。汉代，隶属幽州刺史部辽东郡，仍为东胡活动地区。东汉末年，今市境为鲜卑活动地区。南北朝时期，今市境为室韦活动地区。隋唐时期，今市境为霫的活动地区。唐总章二年（669），隶于居延都督府。唐元和十五年（820），隶于室韦都督府。辽代，属上京道泰州金山县。金代，为临潢府路泰州辖地，军事上归东北路统军司节制。元代，属辽阳行省泰宁路。

明永乐四年（1406），在今乌兰浩特市地区增设木塔里山卫，归该卫所辖，改隶于奴儿干都司。清崇德元年（1636），清朝对蒙古地区拆部编旗，科尔沁部被划分为6旗，分左右两翼，每翼3旗，今乌兰浩特市地区位于科尔沁右翼前旗（也称札萨克图郡王旗，简称札萨克图旗）境内，归该旗领属。清康熙三十年（1691），札萨克图旗第三代郡王鄂齐尔在今市区内修建家庙，当地群众称“王爷庙”，并把该庙所在地（今乌兰浩特市区）称为王爷庙。