包头清真大寺始建于清乾隆八年（1743）。始建土木结构简易的清真寺，只有礼拜殿5间、沐浴室3间和阿訇室2间。清光绪三十四年（1908），因居住在该地区西梁的回族在瓦窑沟建起了沐浴室，取名“西水堂”。民国3年（1914），又建起了礼拜殿，称为“小寺”（即现瓦窑沟清真寺），故将最早建立的包头清真寺称为包头清真大寺。包头清真大寺是伊斯兰教传入包头后建立的第一座清真寺。

包头市清真大寺

清乾隆末年，包头回族随着包头商业的发展，人口不断增加，至清嘉庆十四年（1809），内地回族商人来包头者日益增多。清道光十三年（1833），包头回族已达100余户，六七百人。此时，简易清真寺已不能适应穆斯林的需要。该寺扩建后有礼拜大殿18间（其中大殿15间、卷棚3间）、沐浴室15间。此次扩建主要是在拆除原来土房的基础上，建起古典宫殿式砖木结构的礼拜大殿、两卷弓顶沐浴室及山门。为此，清廷御封该寺为上品级清真寺，并在山门前配有“上马石”（1997年拆除）。该寺成为这一时期内蒙古地区规模最大、建寺历史久远、阿訇最多的清真寺。以后历代又有修建和扩建。一直为平房的礼拜大殿，从初建、翻建及扩建后经过5次大的施工，终成现在的规模，即大殿奠基高，殿前有台阶，台阶上有露厦明柱3排。殿长23米，宽13米，共有28间房子大小（其中卷棚3间）。民国32年（1943），该寺房产多达350间，另有穆斯林公用坟地380余亩。“文化大革命”初期，该寺被关闭，文物经书被焚毁，教长阿訇被赶走。1980年，拨乱反正，落实民族宗教政策，归还了被改造的寺产房屋300余间。1985年、1997年，对沐浴室、阿訇乡老房和讲经堂进行较大规模改建。1985年，拆除了木结构的两卷弓顶沐浴室，耗资22万元（其中政府拨款16万元），建起现代化的2层楼沐浴室。1990年，拆除5间乡老办公室等，耗资7.2万元，建成现在192平方米女沐浴室、女礼拜殿。1997年，拆除南讲堂、“九来堂”及山门等，筹资55万元建成492平方米的包括会议室、接待室、讲堂、办公室和阿訇住房的转角东南二层楼及三层望月楼，并整修了寺院。