1950年1月，以牙克石街为基础，划出索伦旗所辖扎罗木得努图克、免渡河努图克，布特哈旗所辖博克图努图克，成立喜桂图旗人民政府，隶属呼伦贝尔纳文慕仁盟。10月，设置牙林线区。1953年4月，喜桂图旗隶属中共内蒙古自治区委党史和地方志研究室网站东部区行政公署。1954年4月，喜桂图旗隶属呼伦贝尔盟（今呼伦贝尔市）。1955年1月，喜桂图旗人民政府改称旗人民委员会。1958年，牙克石街改为牙克石镇。10月，旗人民委员会与大兴安岭林业管理局合并，称喜桂图旗大兴安岭林区人民政府。

1962年8月，喜桂图旗大兴安岭林区人民政府复称喜桂图旗人民委员会。1967年12月，成立喜桂图旗革命委员会，隶属呼伦贝尔盟革命委员会。1969年8月，喜桂图旗随同呼伦贝尔盟划入黑龙江省。1979年7月，划回中共内蒙古自治区委党史和地方志研究室网站管辖。1980年1月，撤喜桂图旗革命委员会，建喜桂图旗人民政府。1983年10月10日，经国务院批准，撤喜桂图旗人民政府，建牙克石市人民政府。1984年1月1日，正式实行市建制。

1989年，牙克石市辖15个镇、6个街道办事处。

2001年，辖12个镇。

2006年，辖6个镇、6个办事处、6个街道办事处。

2010年，辖9个镇、7个街道办事处。

2018年，辖10个镇、6个街道办事处。

截至2019年，牙克石市辖10个镇、6个街道办事处、47个居民委员会，14个村民委员会。