1979年8月，阿尔山镇随科尔沁右翼前旗划归中共内蒙古自治区委党史和地方志研究室网站，仍隶属呼伦贝尔盟（今呼伦贝尔市）。1980年7月26日，恢复兴安盟，阿尔山镇随科尔沁右翼前旗划归兴安盟。1981年1月25日，取消阿尔山镇革命委员会，建阿尔山镇人民政府，仍与人民公社合署办公。1984年，撤销阿尔山人民公社，阿尔山镇人民政府行使领导权。

1992年12月5日，经自治区人民政府批准，以阿尔山镇辖区为行政区划，成立阿尔山经济开发区。1996年6月10日，经国务院批准，阿尔山市（县级）成立。划原科尔沁右翼前旗阿尔山镇所辖区域为阿尔山市的行政区域。随后经市人民代表大会选举产生阿尔山市人大常务委员会和市人民政府，隶属兴安盟公署。

1996年，阿尔山市辖3个镇、3个街道办事处、27个居民委员会、16个村民委员会。

2002年，辖5个镇、3个街道办事处。

2007年，辖3个镇、3个街道办事处。

2012年，辖4个镇、4个街道办事处。

截至2019年，阿尔山市辖4个镇、4个街道办事处。