清光绪二十七年（1901），清政府下令全国所有书院改为学堂，设在省城的改为大学堂，设在各府、厅及直隶州的改为中学堂，设在州县的改为小学堂，并要求多设蒙养学堂。

清光绪二十九年（1903），归绥地区的书院先后改为学堂。清光绪三十一年（1905），清廷“立停科举，以广学校”的谕旨发布后，内蒙古各地开始兴办学堂。清末的学堂，有官学堂、私学堂和教会办的洋学堂等。清光绪三十二年（1906），清廷要求学堂设置近代各学科课程，确定修业年限，采用近代学校的教学形式及授课方法。尽管清廷颁布《奏定学堂章程》及“学务纲要”，对修业年限、课程设置，都有明确规定。但因算学、外国语、格致、博物等近代科学的教师一时难以延聘，教科书匮乏，各学堂未能照章执行。绝大多数学堂的管理体制和教学内容仍与书院无异，原书院山长即为学堂堂长，课程仍以读经为主，修业年限及寒暑假期均未执行规定。

至清宣统三年（1911），归绥城区共有中小学堂9所，其中学堂2所、高等小学堂3所、初等小学堂2所、满蒙学堂1所、回部学堂1所。当时主要学堂有：

归绥中学堂  清光绪二十九年（1903），归绥道台朴寿在古丰书院原址上改建归绥中学堂。初建时，只有学生30人。清光绪三十二年（1906），胡孚宸（字公度，湖北孝感人，进士出身，曾任京畿道御史）任归绥道台后，自兼学堂督办，筹集巨款，扩充校舍，学生达百余名（分甲、乙两班，各50人）。规定学制为5年，设修身、文学、经学、历史、地理、算学、博物、理化、日文、英文、图画、乐歌、体操课，每学年分为两个学期，每学期20周，每周36节，每节课为45分钟。学校建立规章制度196条，聘请两湖及江浙一带曾在国外留学的人讲授数理化及外语等课程。归化厅籍学生每月得津贴白银3两，外厅籍学生得2.5两，客籍学生不给。

绥远城中学堂  清光绪二十九年（1903），“绥远城将军贻谷到任后，对于城内学务，颇多设置，以谋旗学之光”。清光绪三十年（1904）年秋，在启秀书院旧址，设立绥远城中学堂。学堂分满文、蒙古文、汉文、外文4科。后又设高等小学堂一所，清光绪三十一年（1905）增设初等小学堂1所。清光绪三十二年（1906），满文、蒙古文两科合并于“满蒙学堂”；汉文、外文两科，经过考试，选取优秀学生40人组成中学堂甲班，学生发给津贴。小学堂实行新学制，设经学、国文（满文）、算学、英文、格致、图画、修身、科学、博物、历史、地舆、体操，并兼习蒙文。学校定有条规14则，修业年限和寒暑假均未作规定。常年经费白银3600两。民国元年（1912），归绥中学堂与绥远城中学堂裁并于归绥中学（今呼和浩特市第一中学）。

归绥师范学堂  清光绪三十三年（1907），归绥中学堂增设师范简易科1班，学生40人，时称归绥师范学堂。除中学所设修身、文学、经学、历史、地理、算学、博物、理化、图画、乐歌、体操等课程外，增设心理学、教育学、教授法、管理学课，取消日文、英文课。学生获得津贴标准与中学生相同。

归绥高等小学堂  清光绪三十三年（1907），在师范学堂后院附设高等小学堂，开设修身、文学、经学、历史、地理、算学、博物、物理、化学、音乐、体操等课。招生40人，学校免费提供午餐。