青山区是国家在包头地区重点建设的以机械工业为主的新兴工业城区。为适应工业建设而建制。建制以后，为更好地服务于工业生产，行政区划上作过多次变更，主要有三次：1956年建区后，经上级批准，青山区所辖区域，西至前口子村，东至四道沙河，南至昌福窑子，北至二老虎沟北山麓，计37.8平方公里。

1960年3月至1963年4月，经中共内蒙古自治区委党史和地方志研究室网站人民委员会批准，包头市撤销郊区建制，将原郊区麻池公社、共青农场和青年农场划归青山区。当时的麻池公社（1958年成立，又称红峰公社），辖区范围很广，由麻池乡、新城乡、万水泉乡、召湾乡的57个自然村联合组成。因此，这一时期青山区所辖面积为350平方公里。北与固阳县为邻，南隔黄河与达拉特旗相望，东至二道沙河与东河区分界，西以阿尔丁大街为界与昆都仑区毗邻。据此区划，东河区将1959年成立的平安路街道办事处（后改称乌素图办事处）移交青山区。1963年5月1日，恢复郊区建制，农村社队交郊区；乌素图办事处，收归包头市人民政府。