东晋十六国期间，今杭锦旗境先后为后赵（羯石氏）、前秦（氐苻氏）、后秦（羌姚氏）等所辖朔州地。夏龙升三年（409），属夏（匈奴铁弗赫连氏）幽州辖境。北魏神麚四年（431），北魏取代夏统辖今鄂尔多斯地区，今旗境属北魏夏州。其西北部属沃野镇（治所一说在今磴口县河拐子古城，一说在今杭锦旗巴拉亥乡境）；其东北部属代名郡，治所呼遒（今旗东北境），辖呼遒、渠搜等县；其东南部属大成县（治所今旗东南）。西魏大统十二年（546），今旗境属沃野镇。隋大业八年（612），今旗境属五原郡九原县、永丰县辖地。唐总章二年（669），今旗境属丰州的九原、丰安等县辖地；唐元和十五年（820），今旗境属丰州都防御使统辖地。辽神册五年（920），辽得丰州，今旗境北部地区为辽天德军辖区。北宋初期，南部地区仍属宥州。西夏天授礼法延祚元年（1038）后，今旗境属西夏宥州。