金朝初年，沿称为丰州天德军，金皇统九年（1149）改设为天德总管府，升天德军节度使为天德总管府总管，并设置西南路招讨司。金朝的丰州城，沿袭辽代旧城，保留辽代的名称，但已不是封闭式的城市，由于人口增加和封建制度的发展，城市有了明显的变化。

元朝初年，丰州曾属汪古部管辖。元中统三年（1262），改属西京路宣慰司。元至元十九年（1282），撤销西京路宣慰司，并入河东山西道宣慰司。元至元二十五年（1288），改西京为大同路，将丰州划归大同路管领。

明洪武四年（1371），在东胜州设有东胜卫，治所大皇城（今托克托县城关镇）；置丰州（今呼和浩特市太平庄乡白塔村）、云内州（今土默特左旗东南），新置镇虏卫（今托克托县黑城子）。明洪武六年（1373），东胜卫、丰州、云内州等地居民内迁，建制废。明洪武二十五年（1392），置东胜左、右卫。