三国到西晋初，今五原县境为南匈奴牧地。东晋十六国时期，迭次为后赵、前秦、后秦所置朔方郡辖地。夏龙昇三年（409），今县境属匈奴赫连勃勃所建夏属地。北朝时，今县境属北魏沃野镇镇戍地，西魏仍为沃野镇镇戍地，北周为永丰镇辖地。隋初属丰州，隋大业元年（605），置五原郡（郡治九原，在今五原县南），并隶大同城护守。唐初属丰州（治所九原，今五原县南），隶属关内道；贞观中改州为九原郡。辽、金时期，今县境属西夏所置黑山威福军司（治所兀剌海城，今乌拉特中旗境）辖地。