东晋十六国时期，今磴口县境先后为后赵、前秦、后秦所置朔方郡以及夏统辖地。南北朝时，今县境基本上属北魏沃野镇和夏州辖境；北周属永丰镇（治所今临河县北境）辖区。隋初为丰州辖地，隋大业元年（605），属五原郡永丰县辖地。唐初仍属丰州，隶关内道；唐总章二年（669），今县境巴彦高勒镇及沿黄河部分地属丰州永丰县，西部和西北部大部分地区属呼延都督府管辖区；唐开元二十九年（741），属丰州永丰县及天德军管辖；唐元和十五年（820），属丰州和丰州都防御使管辖。五代时，今县境基本属契丹辽政权统辖地。辽、金、夏时，今县境均为西夏所置黑山威福军司（治所兀剌海城，今乌拉特中旗境）管辖。