今土默特左旗境，秦汉时属云中郡管辖，有汉代古城遗址。三国魏景元三年（262），属拓跋鲜卑统辖。西晋建兴三年（315），属鲜卑拓跋猗卢代王政权管辖。东晋十六国时期，代建国三年（340），属代国统辖。前秦建元十八年（382），属前秦（氐族苻氏）政权统辖。北魏时置有中川县（约在旗境毕克齐镇）。隋大业八年（612），今旗大部地区属榆林郡金河县管辖。唐至德元年（756），置有中川县（约在今毕克齐镇），隶属单于都护府。五代晋天福八年（943），今旗境属辽丰州管辖。辽统和二十五年（1007），设置云内州，治所柔服（今土默特左旗东南。另有两种记载：一说在今托克托县东北；一说在今包头市境内），管辖区域在今土默特左旗及包头市以东区域，隶属西京道大同府。