西晋太康元年(280年),析建邺县西南置
临江县,二年改江宁县,属丹阳郡,治所位于今南京市江宁区江宁街道。
隋朝大业二年(606年),将
建康县、
同夏县、
秣陵县三县并人江宁县,废临沂、丹阳、湖熟三县,属地也并入江宁。次年,蒋州复名丹阳郡,江宁、
溧水仍隶属丹阳郡。
杨吴天佑十四年(917年),分上元县另置江宁县,两县同属于升州管辖,并以
秦淮河(今内秦淮河)为界,同城而治,河北为上元、河南为江宁。此后两县并存的历史维持了近千年,先后同属于
江宁府(北宋)、建康府(南宋)、
集庆路(元)、
应天府(明)、江宁府(清)管辖。