1953年，集二铁路正式动工修建，在铁路选线时，为避开盐池低洼地形，从传统交通线西移9公里，又在传统边境线南6.5公里处建国境火车站，站名始称“额仁”，因发音不便，改作“二连”。1956年1月，北京—乌兰巴托—莫斯科国际铁路联运线开通，以二连车站为中心的建筑群成为今二连浩特市的雏形。同年3月7日，设二连镇，隶属锡林郭勒盟苏尼特右旗。1957年7月14日，升格为县级建制，于“二连”后加缀“浩特”（蒙古语意为城市）一词，隶属锡林郭勒盟。1966年1月，二连浩特建市（县级），隶属锡林郭勒盟。1969年11月，划归乌兰察布盟。1980年5月，重新划回锡林郭勒盟。1985年1月，自治区人民政府批准二连浩特升格为准地级市。同年6月，国务院批准二连浩特为甲类开放城市。1986年3月，自治区人民政府批准二连浩特为计划单列市。1992年7月，二连浩特被国务院列为13个沿边开放城市之一。

1997年，二连浩特市辖3个街道办事处、4个居民委员会、1个国营农场。

1998年，辖3个街道办事处、11个居民委员会、1个国营农场。

2002年，辖3个街道办事处、14个居民委员会、1个科技园区。

2003年，辖3个街道办事处、14个居民委员会、1个科技园区。由于行政区划调整，新增格日勒敖都苏木。

2012年，辖1个苏木、8个社区、1个科技园区。

2014年6月5日，二连浩特市经国务院批准成为全国第二批重点开发开放试验区。

截至2019年，二连浩特市辖1个苏木、8个社区、1个科技园区。