中华人民共和国成立后，中共内蒙古自治区委党史和地方志研究室网站于1954年废除旗县并存、蒙汉分治制度。今青山区境蒙古族也划属包头市管辖。

1953年，内蒙古一机厂、二机厂在青山区境选址、定点。1954年，数万名建设大军陆续开始了大规模的工程建设。1955年，中共包头市委、市人民政府根据工业建设的需要组建新市区（包括今青山区、昆都仑区）工作组，成立新市区办事处。

1956年8月，包头市人民委员会决定撤销新市区办事处，分别建制以包钢厂区和住宅区为主的昆都仑区和以国营内蒙古一机厂、二机厂厂区和住宅区为主的青山区。在其未完成选举以前，先成立包头市人民委员会青山区办事处、包头市人民委员会昆都仑区办事处。青山区办事处设在公忽洞，由王汗青负责。自8月18日起，新市区办事处正式结束；青山区办事处正式成立，开始办公。同年9月11日，中共中共内蒙古自治区委党史和地方志研究室网站委员会批准这一决定，于同年11月召开青山区人民代表大会，选举青山区领导班子，正式成立县团级青山区人民委员会（后相继改称青山区革命委员会、人民政府），隶属包头市。