汉属匈奴右部。
南北朝时为突厥牧地。
唐置匐延都督府、阴山都督府、大漠州都督府。
宋属西辽，后为成吉思汗之子窝阔台封地。
元属别失八里行尚书省，后改属岭北行省。
明为卫拉特蒙古诸部游牧地。
清乾隆二十八年(1763)设科布多参赞大臣，辖科布多与阿尔泰两地。
光绪三十一年(1905)科(科布多)、阿(阿尔泰)分治，设阿尔泰办事大臣，驻承化寺(今阿勒泰市)。
1912年，改称阿尔泰办事长官，属中央政府直辖。
1919年，阿尔泰划归新疆省，置阿山道，下辖承化、布尔津、布伦托海、哈巴河、吉木乃5县；后改置阿山行政区。
1943年，改为阿山督察专区。
1950年，设阿山专区。
1954年，改名为阿勒泰专区，隶属伊犁哈萨克自治州，辖阿勒泰、福海、吉木乃、青河、哈巴河、富蕴、布尔津7县。
1970年，改称阿勒泰地区，辖1市、6县，即阿勒泰市、布尔津县、富蕴县、福海县、哈巴河县、青河县、吉木乃县。
1970年，改阿勒泰地区。