汉高祖二年（公元前205年）置。治所在今河南荥阳市区西北20公里汜水镇虎牢关村西北成皋城。属河南郡。

东汉时作“成睾县”，属河南尹。三国魏复命名成皋，属河南郡。隋开皇十八年（公元598年）更名汜水县，治所迁今汜水镇区。唐武德四年（公元621年）析汜水县西境于成皋城复置，属郑州。贞观元年（公元627年）省，地入汜水县。1948年汜水、广武二县并，复置，治所初在广武城，1951年徙汜水城，属郑州专区。1954年省，地入荥阳县。