海南地区历史上属于黄河流域旧石器时代“河套文化”及新石器时代“仰韶文化”的范围。

夏、商时（公元前21世纪—前11世纪），今海南地区为渠搜、鬼方民族游牧地。西周至春秋时期（公元前11世纪—前476年），今海南地区为猃狁游牧部落地。战国中期（约公元前314年），今海南地区为楼烦、林胡等游牧部落所据。

楚汉相争时期，北地郡所辖的今海南地区成为匈奴的游牧地。西汉初年，在北地郡地域设朔方郡（郡府治所在今鄂尔多斯市杭锦旗独贵塔拉一带），今海南区属朔方郡沃野县辖地。三国时期，五原、朔方、西河、上郡、北地等郡地沦为匈奴的游牧地。继之多个少数民族进入这一地区。

直至东晋大兴二年（319），今海南地区为后赵所辖。东晋永和九年（350），氐族苻洪建立前秦，今海南地区为前秦所统。

隋大业三年（607），把所置州改为郡，其时海南地区属灵武郡的灵武县管辖。隋末，今海南地区成为突厥的游牧地。