民国14年（1925）初，中国共产党北方局派吉雅泰在归绥巧尔齐召（今玉泉区兴隆巷巧尔齐召）建立中国共产党绥远工作委员会。大革命时期，乌兰夫、多松年、吉雅泰、杨植霖等都在这里工作和居住过。民国17年（1928）7月1日，撤销绥远道尹公署。同年9月，将绥远特别区改建绥远省。划归绥县城区（包括原归化城与绥远城）为归绥市。民国18年（1929），绥远省政府成立，归绥市为省会。

民国26年（1937）10月，日本侵略军占领归绥市。同月，成立伪厚和特别市（后又改为“厚和豪特市”），市公署驻旧城。民国28年（1939），大青山抗日根据地党组织派宁德青、贾恭、张克敏等进入归绥市与坚持在这里进行地下工作的刘洪雄共同组建“绥蒙抗日救国会”，驻今玉泉区长和廊街玉泉二巷（原财神庙），“形成一网状联络会”，为大青山抗日斗争作出重要贡献。

1945年8月，抗日战争胜利。9月20日，归绥市政务委员会驻旧城（今玉泉区大北街西侧）。1946）3月，归绥市政府驻今玉泉区大北街（时称民生北路）。