西汉元朔二年（公元前127年），五原郡辖有稒阳县。据《绥远通志稿》记载“按今之固阳，盖依古稒阳而为名之”“惟古之稒阳，依水经注所述，皆在阴山以南，黄河以北，且城与县别，其城亦称塞，应在今包头县辖境内”。依此记述，今固阳名称源于古“稒阳”，而古稒阳治所在今包头市古城湾乡，今固阳县在阴山北。东汉时，今县境仍属五原郡辖地。

三国、西晋时，今县境属拓跋鲜卑管辖地。东晋十六国时期，前秦建元十八年（382年），今县境属前秦（氐族苻氏）政权统辖区内的五原郡管辖。北魏太延五年（439年），设置怀朔镇（在今固阳县白灵淖乡城库伦古城）。正光五年（524年），以怀朔镇改置朔州。东魏武定四年（546年），有怀朔城邑（今固阳县白灵淖乡城库伦古城）。北齐武平三年（572年），仍有怀朔城邑（今固阳县境）。

隋大业八年（612年），今县境属榆林郡辖区。唐总章二年（669年），今县境属云中都督府辖区；唐开元二十九年（741年），今县境属中受降城控制范围；唐元和十五年（820年），今县境属丰州都防御使统辖范围。

五代晋天祐五年（908年），今县境属晋天德军控制区域；唐清泰元年（934年）以后，今县境属契丹辽统治区。