民国26年（1937）12月，归绥县及土默特旗归属伪巴彦塔拉盟管辖。民国27年（1938）1月10日，伪蒙古联盟自治政府政务院决定，将归绥县更名为巴彦县，同年8月，又决定将巴彦县划归伪厚和豪特市。

民国27年（1938），大青山抗日根据地的党政军领导机关曾设在万家沟、水磨沟西梁、脑包沟、大五叉沟、骆驼场等村（今土默特左旗青山乡境内）。大青山抗日根据地武归县动员委员会在水磨沟大塔村成立。

民国28年（1939）9月，中共土默特旗蒙古工作委员会成立，领导人奎璧、贾力更等。同年12月，成立武归县、归武县抗日游击民主县政府。民国29年（1940），又建归凉抗日游击民主县政府等。

民国30年（1941）秋，大青山抗日根据地绥察行政公署和绥西专员公署设在万家沟西的一前晌村。李井泉、白如冰、姚喆、杨植霖、武新宇、苏谦益等领导人曾在万家沟领导和指挥大青山的抗日斗争。