古甘州历史悠久，北凉沮渠蒙逊建郡。
西魏废帝三年（554年），改西凉州为甘州，始有甘州之称。
元朝，设甘肃行中书省，省会甘州。
1936年，建设了“中共甘州中心县委”。
1949年9月19日，张掖解放，9月25日，张掖县委，县政府诞生。
1961年，恢复县制。
1985年，张掖撤县建市。
2002年3月1日，撤市设甘州区。
2002年3月1日，国务院批准（国函[2002]16号）：撤销张掖地区和县级张掖市，设立地级张掖市。
张掖市设立甘州区，以原县级张掖市的行政区域为甘州区的行政区域。
区人民政府驻县府街。