西晋泰始二年(266年)于风阳川（今城关镇）置丰阳县，属上洛郡。
东晋时县废。
南朝宋于县境西北侨设阳亭县，南齐撤销。
北魏太安二年(456年)于丰阳川复设丰阳县，属上庸郡。
隋仍为丰阳，属上洛郡。
唐为丰阳县，归山南西道商州属。
北宋为丰阳县，归永兴军路商洛属。
金初为丰阳县，贞元二年(1154年)降为丰阳镇，并入上洛县，属京兆府路商州。
元初复置丰阳县，先属安西路，后属奉元路。
明初仍置丰阳县，后降县为巡检司，属商州。
明成化十二年(1476年)十二月，复置县，改名山阳县，归西安府商州属。
清初属西安府，后改属商州。
民国初属汉中道，1933年直属陕西省。
1935年属第四行政督察区。
1950年属商洛专区。
1950年5月属商洛专区。
1969年属商洛地区。
2001年8月属商洛市管辖。