清光绪二十七年（1901），设置归绥巡警局，以归绥道道台督办，将归化城区域分为东、南、西、北、中五区，各区设分局，将募警兵200人，分配职司站岗，这是归化城建警政设区之始。（明末、清朝期间，归化城一直是封建王朝在内蒙古中西部地区的权力机关驻地）。

民国元年（1912），归化城为土默特别旗总管公署驻地（今大北街东侧议事厅大院，是原土默特左右两翼旗十二参领集体办公的地点）。同年5月，改归绥道道台衙门为归绥观察使公署，驻归化城。同年，归化城抚民理事同知厅改为归化县（同知改为知事）。民国2年（1913），归化城副都统职由绥远城将军兼任。同年，归化县与绥远粮饷同知厅合并组建为归绥县（知事）。原归化城（俗称旧城）、绥远城（俗称新城）组成归绥县城区，归绥县知事驻旧城西境（今县府街）。

民国3年（1914）1月，改归绥观察使公署为归绥道尹公署（驻归绥城旧城）。8月6日，改归绥道尹公署为绥远道尹公署，隶属绥远特别区都统。民国11年（1922），京绥铁路通车后，归绥城旧城的工商业有较大的发展，为适应城市交通运输业发展的需要，民国13年（1924），先后拆除原归化城北门瓮城和东、南、西三门，城墙报废，将地基出售给商民，城区向外拓展。