晋武帝太康二年,又称为合浦郡。南朝宁设置越州,遂溪属越州合浦郡徐闻县。到了齐武帝永明中,改徐闻县为齐康县。
梁武帝晋通四年(公元523年),分越州为合州,后为南合州,遂溪属南合州齐康县。后来遂溪设置扇沙县及椹县,仍属南合州。
隋开皇十八年,改椹县为椹川县。铁杷、扇沙和椹川三县(皆属今
遂溪县),属合州。大业初,改合州为合浦郡,椹川县并入扇沙县。
唐太宗贞观元年(627年),更名为东合州,将椹川、扇沙并入铁杷县,归属
东合州。
贞观八年(634年),雷州刺史陈文玉奏请朝廷批准,把东合州更名为
雷州。
天宝二年(743年),改铁杷县为遂溪县,属海康郡,县治设今湛江市郊旧县村,此为“遂溪”得名之始。据《
雷州府志》记载,“遂溪,意取‘溪水合流,民利遂之’”。
北宋太祖开宝四年(971年),改雷州为雷州军(军,古时行政区划),将遂溪并入
海康县(今
雷州市)。五年,又恢复雷州。
南宋绍兴十九年(1149年),又再设置遂溪县,县治设在现今遂城。乾道七年(1171年)又改雷州为雷州军。
元至元十五年(1278年),为雷州路(路,古代行政区划)。
清
光绪二十五年十月(1899年11月),
法国胁迫清政府签订《
中法互订广州湾租界条约》,将雷州府遂溪、
高州府吴川两县属部分
陆地、
岛屿以及两县间的
麻斜海湾(今
湛江港)划为法国租界,统称“广州湾”,划入法属印度支那联邦范围,设广州湾行政总公使署,受
安南总督管辖。从此,
广州湾成为一个独立的行政区域。其范围:南部由原遂溪县属的通明港起向北至新圩沿官路为界至志满圩,转向东北至赤坎以北、福建村以南分中为界向东出海面,横过
调顺岛北边水面至
吴川县属的兜离窝登岸,再向东至西炮台河面分中出海,距陆地3海里海面起,向南沿
硇洲岛、
东海岛外海面直至通明港外3海里海面止;海陆总面积共约2130平方公里,其中陆地面积518平方公里。首府初设于麻斜市;1911年废麻斜市,行政首府迁西营市(今
霞山区)。
1945年9月21日,
广州湾由我国收回,以原范围划设市治,定名“湛江市”。1946年2月15日,成立湛江市政府,为
省辖市,并隶属广东省第七区行政督察专员公署;1948年3月,改隶第八区行政督察专员公署;1949年5月,改隶第十四区行政督察专员公署,公署设于湛江。
民国2年(1913年),遂溪属
高雷道,15年属南路行政委员会,21年属南区绥靖公署,25年属第八行政区督察专员分署,38年属第十四区公署。县治于1948年10月迁往城月,1950年3月迁回遂城。