西汉置南亦县，故城在今河北巨鹿县城北，属钜鹿郡。

后汉因之。三国魏黄初七年（公元226年）钜鹿郡封为钜鹿国，仍辖南亦县，太和六年（公元232年）复为钜鹿郡，南亦县仍属之。晋初南亦县省入任县，后赵时复置，仍属钜鹿国。北魏初，南亦县属钜鹿郡，太平真君六年（公元445年）南亦县省入柏人县，太和二十一年（公元497年）复析置南亦县，改隶南赵郡。北齐天保七年（公元556年），南亦县复省入任县。隋开皇六年（公元586年）复置南亦县，属赵州，十六年更隶邢州，大业初南亦县改称钜鹿县。