黑城遗址位于阿拉善盟额济纳旗人民政府驻地东南25公里的沙碛之中。黑城（蒙古语称“哈日浩特”)，东西长421米，南北宽374米，基宽12.5米，高9米，距今已有1000年的历史。城墙系夯筑，中夹木构，夯层厚8厘米～10厘米，从基部向上逐渐削收，至顶部宽4米。城垣内侧四角、城门两侧以及南墙正中有登城马道7处。城体呈长方形，东西两墙错对而开城门，门阔6米，并加筑正方形瓮城。四角成圆形，设置向外突出的角台，城坦四角外侧设马面19个。城墙西北角有11米高佛塔1座。城外西南方，一座穹庐式顶、壁龛样式的拜堂矗立于荒野。另外，城外还有羊马城遗迹，土墙夯筑，厚2米，残高2.4米。

传说黑城原来有一位黑将军驻守。此人叱咤风云，英武盖世，所向无敌。敌人四面围攻，久攻不破，便以沙袋堵塞河道（额济纳河原流贯其间，守者赖此水为生），决使改道，以断城中水源。黑将军率众死战至储水耗尽，乃于城之西北掘井取水，深至200余米，犹涓滴未见，遂将所有金银珠宝悉倾井中，并杀其子女及二妻，一并埋入井底。然后自率大军毁北城（北城墙下的豁口至今依然存在）而出，身先士卒，直麾敌垒，卒以众寡不敌，致以身殉。这虽说是一个悲壮的民间传说，但黑将军英武毅烈之气概，与黑城窖藏之故事，至今犹为当地人们所艳称。传说引来探宝人。黑城闻名于世，也是因为探宝而意外发现的文物所引起的。

清光绪三十四年（1908），沙俄地理学家科兹洛夫先后两次到黑城进行搜索挖掘，发现一大批保存完好的文物（因地处巴丹吉林沙漠边沿，气候干燥，水源短缺，故遗址内埋藏的大量有机质文物得以长期保存）。其中有大量的书籍（包括著名的西夏汉文字典《番汉合时掌中珠》）手稿、佛像画、塑像等。在科兹洛夫的游记《蒙古与阿木多及哈拉浩特死城》中记载，“书册、画卷和单页手稿的总数就在2000卷（份）以上，至于佛像画则可达300幅”。这些文物都被运往俄国首都圣彼得堡，其中大部分送入俄国博物馆民族部，其余部分送往俄国科学院亚洲博物馆。民国18年（1929），科兹洛夫第三次来到黑城。他此行是为传说中的黑将军埋藏在城内的珍宝而来。他雇用当地牧民进行两个月的挖掘，当挖到一定深度时，便解雇牧民，由他的队员挖掘。但因接连有两名队员下坑后，鼻子流血，昏迷不醒（一说死亡1人），挖掘被迫停止，洞穴被重新填埋。掘宝遗址至今清晰可辨。又，民国3年（1914），英国人斯坦因率领探险队由肃州（酒泉）北上，来到黑城，又进行一次狂搜乱挖。掘得大批西夏文刊本，抄本书籍，运往英国，归存于不列颠博物内。后有美国（民国12年）、瑞典（民国16年）、法国（民国20年）、日本（民国24—25年）等国家的考察团相继在此挖掘，致使大量文书等珍贵文物流散于世界各地。

中华人民共和国成立以后，国家考古工作者对黑城遗址进行多次调查和发掘，在黑城城外的元代清真寺周围，初次发现数百座元朝时期伊斯兰教徒的墓葬，并出土元代最早进入中国的阿拉伯伊斯兰教的木乃伊。1983年9—10月和1984年8—11月间，内蒙古文物考古研究所会同阿拉善盟文物工作站组成联合考古队，两次对黑城遗址进行考古发掘，发现大量珍贵文物。特别是获得中国最早的活字印刷品和最早的元代纸币，新出土的天文历法文书，更进一步证实和丰富《元史·历志》中的有关内容。2001年，黑城遗址被列为第五批全国重点文物保护单位，并划入居延遗址保护区。