民国26年（1937）10月27日，日本侵略军操纵下在归绥市（今呼和浩特市）召开的第二次蒙古大会，将归绥市改为“厚和特别市”（后更名“厚和豪特市”），将市辖区域分设6镇，隶属伪蒙古联盟自治政府。12月，将归绥、托克托、和林格尔、清水河、武川等县及土默特旗划归新建的巴彦塔拉盟管辖。民国27年（1938）1月10日，伪蒙古联盟自治政府政务院决定，将归绥县更名“巴彦县”。8月，又将“巴彦县”划归伪厚和豪特市。民国28年（1939）9月，伪巴彦塔拉盟公署驻“厚和豪特市”，并管辖该市（伪厚和豪特市公署驻大北街原土默特左旗都统署旧址）。

民国34年（1945）8月22日，国民党绥远省政府由陕坝迁回归绥市新城原绥远省政府旧址（清“将军衙署”）。9月28日，成立归绥市政务委员会；次年3月，归绥市政府成立（驻大北街路西）；同时恢复归绥县（驻归绥市县府街）；土默特旗政府驻归绥市议事厅巷（原土默特旗议事厅）。

民国38年（1949）7月11日，华北人民政府驻归绥联络处（潘纪文任处长）首批工作人员由鲁志浩带领进驻归绥。8月，中共归绥市委在丰镇组建，准备接收归绥市。