夏、商为莱夷之域，周初，东有莒、西有介，莒南迁后为计。
《胶州志、大事记》载：“周武王十三年（己卯）都于计”（计，即计斤，在今胶州南关城子村）。
秦，置黔陬县。
公元529年（北魏孝庄帝永安二年）始置胶州，"领东武、高密、平昌三郡，治东武陵，以胶州名始此"（《学古编》），此时治所在今诸城市。
隋，立胶西县。
唐，设板桥镇。
宋，复立胶西县。
至蒙古太祖二十二年（1227年）置胶州于胶西县，领胶西、高密、即墨，即现在的胶州市。
至明清，均称胶州。
民国二年（1913年）改胶州为胶县，1987年2月12日国务院（1987）26号文件“撤销胶县，设立胶州市”。