战国至西汉期间，嘉荫境内即有人类居住，隋唐、辽金时期为女真居住地。
明朝开始在境内各满族部落设“卫”、“所”，17世纪后主要为鄂伦春游猎之地。
清初，嘉荫地面归黑龙江将军管辖，光绪三十二年为兴东道管辖。
民国元年乌云、佛山地面为萝北县辖地，1916年设乌云设治局，隶属黑河道尹公署，1927年劈乌云、萝北二县局设佛山设治局，两年后乌云、佛山设治局同时升为三等县，隶属黑河市政筹备处，东北沦陷时期隶属黑河省、三江省管辖。
1945年乌云、佛山两县先后光复，1947年成立佛山县工委和佛山县人民政府，撤消乌云县建置，先后隶属合江省、松江省管辖，1952年划归黑龙江省黑河地区。
因佛山县与广东省佛山市重名，取境内较大河流嘉荫河之名，1955年更名嘉荫县。
1970年划属伊春市至今。