阿拉善右旗地区，原是阿拉善霍硕特旗境的西部。西汉时，今旗境南部雅布赖一带属武威郡，额日布盖苏木等区域属张掖郡，其余大部区域属匈奴地。东汉时，今旗境南部雅布赖一带属武威郡，额日布盖苏木等区域属张掖郡，其余大部区域属鲜卑辖区。三国时，今旗境除南端额日布盖苏木等属张掖郡外，其余区域属河西鲜卑统辖。西晋时，今旗境除南端额日布盖苏木等属凉州西郡管辖、西南边部分区域属张掖郡外，大部分区域属河西鲜卑辖地。东晋十六国时，前凉建兴十五年（327），今旗境属前凉政权管辖；前秦建元十八年（382），今旗境归属前秦；后凉麟嘉七年（395），今旗境属后凉；北凉永安九年（409），今旗境归北凉管辖。北魏太和二十一年（497），今旗境属凉州辖区。

隋大业八年（612），今旗境南部和西南部属武威郡、张掖郡，其余大部区域属东突厥辖地。唐总章二年（669），今旗境属呼延都督府管辖，隶关内道单于都护府；开元二十九年（741），今旗境南部属陇右道凉州、西南少部分区域属甘州，隶属西河节度使。元朝，今旗境基本属甘肃行省兀剌海路管辖范围。明朝，今旗境属袄尔都司统辖。清康熙三十六年（1697），编设阿拉善霍硕特旗，今旗境属其西部区域。民国时，沿袭清制，今旗境仍属阿拉善霍硕特旗西部地。