据出土文物考证，新石器时代，就有人类在霍林河地区以狩猎、畜牧和捕鱼维持生存。在漫漫岁月中，霍林河地区成为北方少数民族的游牧夏营地。1949年10月1日中华人民共和国成立后，中共内蒙古自治区委党史和地方志研究室网站扎鲁特旗北部三个努图克（乡）牧民，游牧在霍林河畔，春来秋归。1969年3月，中国人民解放军北京军区内蒙古生产建设兵团第六师五十一团四连开进霍林河并定居，1970年，六师五十七团正式组建，指战员总数628人。1973年后，随着霍林河煤田的勘探和筹备开发，大批建设者开进霍林河，投身霍林河煤田的开发建设。从此，霍林河定居人口逐年增加。

1976年，霍林河地区总人口5500人，其中霍林河矿区建设指挥部4000人，霍林河煤电厂1500人。

1978年，矿区建设指挥部组建公安局，核查当年有608户、3403人。其中本年出生人口85人，迁入人口1350人（1978年人口数不包括当年组建的基建工程兵四十四支队万余人和霍林河煤电厂1700余人）。1979年，有2794户，11 350人，其中本年出生人口500人，迁入人口8064人。1982年，霍林河办事处人口增加到19 994人，其中本年出生484人，迁入人口4112人。1985年，霍林河办事处总人口7079户、29 897人。其中本年出生347人，迁入人口11 191人。是年，国务院批准建市。1986年，全市总人口33 285人。1990年人口普查统计，全市人口12 087户、46 892人。1993年，全市总人口增加到12 763户、50 400人（注册人口）。

1978—1985年，霍林河地区人口增加26 494人，平均每年增加3312人；1986—1993年，人口增加17 155人，平均每年增加2139人。1993年，霍林郭勒市非农业人口10 690户、41 013人，农业人口2073户、9387人。