西汉置北新成县，治今县西，隶属中山国。
东汉更名为北新城县，属幽州涿郡。
三国魏属河间郡。
晋属冀州高阳国。
北魏改称新城县，属高阳郡。
永熙二年（533），侨置新昌县。
北齐天保七年（556），附入永宁县。
后移治清苑。
隋开皇元年（581），南营州移治，三年（583），属易州，十八年（598），改新昌县为遂城县，属上谷郡。
唐高祖武德四年（621），改郡为州，又以易州领遂城。
天宝元年（742），罢州为上谷郡。
肃宗至德二年（757），又为易州。
五代徐水县城始建于此。
北宋先后属威虏军、广信军，并析置静戎县，属静戎军。
景德元年（1004），省静戎县入军改名安肃军，安肃之名肇此。
宣和七年（1125），废安肃军为安肃县，治今址。
金遂城县属遂州，安肃县属安肃州。
元至元二年（1265），省遂州、遂城县入安肃州，后复设遂州，废安肃县，属保定路。
明洪武初降遂州为遂城县，安肃州改安肃县。
洪武八年（1375），遂城县省入安肃县，属保定府。
清因之。
1913年，改府为道，安肃县属直隶省范阳道。
1914年，又改范阳道为保定道，仍以安肃隶之；同年7月，因与甘肃安肃道重名，又县内有徐河，故改安肃县为徐水县。
1928年，废除道，徐水县即直属于直隶省。
同年，改直隶省为河北省，徐水仍属省。
1938年，属晋察冀边区。
1945年，属察哈尔省第五专区。
1949年，属河北省保定专区。
1958年，容城、安新县及定兴县部分地区并入。
1960年，撤销保定专区，徐水县归属保定市。
1961至1962年，容城、安新、定兴县先后析出，徐水县复原制，属保定专区。
1968年，属保定地区。
1994年，保定地、市合并，属保定市。
2015年，经国务院批准撤销徐水县，设立保定市徐水区。