今林西县区域，秦朝属东胡，西汉属乌桓，东汉属鲜卑，三国属东部鲜卑，西晋属鲜卑，东晋和南北朝时属库莫奚，隋朝属霫和契丹。唐贞观二十二年（648），契丹部附于唐朝，隶属于东夷都护府和河北道。辽天庆元年（1111），置有饶州（治所在今林西县境南双井店乡）、安民县（治所约在今林西县境内），隶属于上京道临潢府。

金大定二十九年（1189），今林西县境属庆州辖区，隶属于临潢路。元朝时今林西县境属全宁路鲁王封地。明永乐元年至宣德八年（1403—1433），今林西县境属蒙古（当时称鞑靼）辖区。明嘉靖三十九年（1560），今林西县境属巴林部。

清顺治五年（1648），今林西县境属巴林右翼旗管辖。清光绪三十三年（1907）五月，热河都统奏请清朝开办巴林垦务设立“巴西县”，将原赤峰县升为直隶州，统辖新县。清光绪三十四年（1908）十二月，清朝批准热河都统奏请，划巴林右翼旗西境和克什克腾旗部分地为“巴西县”，后改称林西县，隶属于赤峰直隶州。