两汉时为卑陆、劫国地，属车师后部，隶西域都护府和戊己校尉。
晋属铁勒。
隋属西突厥。
唐设置轮台城，隶北庭大都护府。
宋为高昌回鹘辖境。
元属别失八里元帅府。
明代为厄鲁特蒙古和硕特部游牧地。
清初为卫拉特蒙古准噶尔部所据。
清乾隆二十三年(1758)在南关一带筑土城；二十五年(1760)设乌鲁木齐同知，隶安西道；三十年(1765)，接土城北垣筑新城，命名迪化，俗称汉城，又称红庙子；三十六年(1771)设乌鲁木齐参赞大臣；三十七年(1772)在迪化城西北筑八旗兵新城，乾隆赐名巩宁城(俗称老满城)；三十八年(1773)改参赞大臣为乌鲁木齐都统，改安西道为镇迪道，改迪化同知为直隶迪化州，驻巩宁城。
同治三年(1864)巩宁城毁于战乱。
光绪十年(1884)新疆建省；十二年(1886)升迪化直隶州为迪化府，仍隶镇迪道，下设迪化县。
同年，迪化城扩建，省、迪化府及迪化县治所均设在迪化城。
1913年，撤迪化府，保留迪化县，隶迪化道。
1929年，迪化道改为迪化行政区，辖迪化、乾德(今米泉)、奇台、昌吉、呼图壁、阜康、孚远(今吉木萨尔)、绥来(今玛纳斯)、木垒河、鄯善、哈密、镇西(今巴里坤)12县。
1938年，吐鲁番、托克逊2县划入迪化行政区。
1943年，改为迪化督察专区。
1945年设迪化市。
1949年12月，成立迪化市人民政府，全市设7区。
1954年，迪化专区改名乌鲁木齐专区，迪化市改名乌鲁木齐市。
1956年乌鲁木齐市所辖7区合并为3城市区(一区、二区、三区)、1郊区、1工矿区、1工矿镇。
1957年，一区改名天山区，二区改名多斯鲁克区，三区改名沙依巴克区。
1958年，乌鲁木齐专区撒销。
1959年，乌鲁木齐县划归乌鲁木齐市，同年市郊区并入乌鲁木齐县。
1960年，天山区与多斯鲁克区合并为天山区。
1961年，成立水磨沟区和头屯河区，增设新市区。
1970年，自治区直属的吐鲁番、托克逊2县划归乌鲁木齐市。
1971年，设南山矿区。
1975年，吐鲁番、托克逊2县划入吐鲁番地区，乌鲁木齐市辖6区、1县。
1987年设东山区。
2002年撒南山矿区，增设达坂城区。
2007年昌吉回族自治州所辖米泉市与东山区合并，设立乌鲁木齐市米东区。