今乌审旗地区，秦属上郡辖地，西汉时属上郡奢延县（治所今乌审旗河南乡境内）、高望县、北部都尉（治所今旗属嘎鲁图苏木呼和陶勒盖），后来又置榆林县。东汉时仍置有奢延县（治所在今旗河南乡），隶属并州上郡。东汉王朝为安置归降的匈奴部众，置上郡属国都尉，治所龟兹（今陕西省榆林市北），在今乌审旗南部置有匈归都尉（匈归障）。

三国魏景元三年（262）、西晋太康二年（281）时，今旗境属羌族政权统辖地。东晋十六国期间，今旗境先后为后赵（羯石氏）、前秦（氐苻氏）、后秦（羌姚氏）等政权辖地。夏凤翔元年（413），匈奴铁弗赫连勃勃发民10万蒸土筑都城统万（治所在今旗纳林河乡），今旗境属夏畿内地。北魏始光四年（427），将统万城改为统万镇。