秦朝时期，今磴口县地区属九原郡临河县辖区，亦是新秦地（自高阙向西南筑长城至鸡鹿塞南）。
西汉初期，为匈奴统辖地。
元朔二年（前127年），朔方郡（治所朔方，在今鄂尔多斯市杭锦旗东北，亦有记载在今县陶升井麻弥图古城），其所领10县中治所在今磴口县境的就有：窳浑县（治在今沙金套海苏木包日浩特嘎查）、临戎县（前124年建，治在今补隆淖乡沙河古城）、三封县（前126年建，治在今哈腾套海苏木7千米处陶升古城）等。
甘露三年（前51年），匈奴呼韩邪单于与汉朝议和后，汉遣宫兵护行，送单于出朔方鸡鹿塞（在今沙金套海苏木哈隆格乃口西沿上的石城）。
有记载，在百年时间内，这里曾是朔方的繁荣而重要的地区。
东汉时期，朔方郡治所临戎（今磴口县补隆淖乡境内），仍有临戎、三封县及鸡鹿塞在今县境内，隶属并州刺史部。
东汉末年至西晋时期，为河西鲜卑、西部鲜卑政权所辖地。
东晋十六国时期，今磴口县境先后为后赵、前秦、后秦所置朔方郡以及夏统辖地。
南北朝时期，今县境基本上属北魏沃野镇和夏州辖境。
北周时期，属永丰镇（治所今临河县北境）辖区。
隋朝初期，为丰州辖地。
大业元年（605年），属五原郡永丰县辖地。
唐朝初期，仍属丰州，隶关内道。
总章二年（669年），今县境巴彦高勒镇及沿黄河部分地属丰州永丰县，西部和西北部大部分地区属呼延都督府管辖区。
开元二十九年（741年），属丰州永丰县及天德军管辖。
元和十五年（820年），属丰州和丰州都防御使管辖。
五代时期，今县境基本属契丹辽政权统辖地。
辽、金、夏时期，今县境均为西夏所置黑山威福军司（治所兀剌海城，今乌拉特中旗境）管辖。
元朝时期，今磴口县东南部（巴彦高勒镇周围）属宁夏府路；西部和西北大部属兀剌海路管辖，均隶甘肃行省。
明朝初期，属宁夏卫。
万历十年（1582年），今县境属“袄尔都司”。
清康熙二十五年（1686年），今县境属阿拉善和硕特蒙古牧地（俗称王爷地）。
康熙三十六年（1697年），编入阿拉善和硕特旗辖地。
民国初年，沿袭清制。
民国十五年（1926年），冯玉祥在五原誓师北伐，为便于军需供给，以原设“磴口兵站”为基础，始设磴口县治，隶属甘肃省宁夏道管辖。
民国十八年（1929年）1月，国民政府批准正式设置磴口县，划归宁夏省管辖。
民国二十五年（1936年）4月，经蒙藏委员会决定，磴口县的土地管理权属阿拉善旗，行政管理归宁夏省。
1949年秋，磴口县获得解放。
随后成立磴口县人民政府，驻三盛公，隶属宁夏省。
1954年，撤销宁夏省后，改隶甘肃省巴彦浩特蒙古族自治州。
1956年4月3日，磴口县随巴彦浩特蒙古族自治州划归内蒙古自治区巴彦淖尔盟。
1958年4月2日，巴彦淖尔盟公署移驻三盛公，磴口县为盟辖县。
1960年7月，撤销磴口县建制，设立巴彦高勒市。
1964年7月，撤销巴彦高勒市，恢复磴口县建制，巴彦高勒改为县辖镇，县人民委员会驻巴彦高勒镇，隶巴彦淖尔盟。