市南区地处青岛市区南部，位于东经120°19′、北纬36°04′，西起团岛，与黄岛区隔胶州湾相望，东至麦岛，与崂山区毗邻，北与市北区相接，南临黄海。辖区东西长12.7千米，南北最宽处4.8千米，面积30.01平方千米。
市南区区域1900年属胶澳租界地内界的青岛区、会前区；1910年属内界的青岛区、台西镇；1922年中国政府收回青岛主权后，分属青岛区、别墅区和西镇；1929年南京国民政府统治青岛后，属第一区、第二区；1935年属海滨区、西镇、浮山区；1938年日本第二次侵占青岛后，属“市南保甲行政区”；1946年南京国民政府第二次统治青岛后，市南区建置并成为青岛市4个市区之一，市南区名称沿用至今。1949年底，市南区为青岛市辖7个区之一。1954年，青岛市撤销浮山区，将麦岛乡、浮亢乡、浮西乡、三合乡之田家村划归市南区，设立浮山办事处。1956年，浮山办事处（后成立街道办事处、人民公社）所辖浮西、麦岛两乡划归崂山郊区。1963年，撤销台西区，将其所属云南路、南村路等5个街道办事处划归市南区；同年，浮山人民公社划归崂山县，1978年，浮山人民公社重新划入市南区。
1987年，辖区有14个街道办事处。2004年5月，调整为9个街道办事处和1个社区工作委员会，分别为八大峡街道、云南路街道、中山路街道、八大关街道、湛山街道、香港中路街道、八大湖街道、金门路街道、珠海路街道办事处及江苏路社区工作委员会，下设78个社区居委会。2008年6月，江苏路社区工作委员会改为江苏路街道办事处。2011年3月，对八大峡、云南路、中山路、八大关、金门路、珠海路6个街道规模较小的部分社区进行调整，减少社区13个。2017年9月，在全省率先实施街道社区管理体制改革，社区由65个调整至50个。2019年9月，经市南区委常委会研究同意，决定拆分八大湖街道，恢复设立金湖路街道办事处。调整后，市南区设置了八大峡街道、云南路街道、中山路街道、江苏路街道、八大关街道、湛山街道、香港中路街道、金湖路街道、八大湖街道、金门路街道、珠海路街道等办事处。