南京为复都制体系下“位于南方的京城”的意思。

东汉南京即今南阳，曹植在《汉二祖优劣论》将称南阳为南京。

唐代天宝十四年（755年），安史之乱爆发后，唐玄宗仓皇逃到成都避难。

至德二年（757年）十月，唐肃宗李亨驾回西京，改蜀郡为成都府，长史为尹。十二月称南京，为府。与当时的西京长安、东京洛阳，北京太原并称。所以在唐代有“扬一益二”之称，谓天下繁华，扬州为第一，益州次之，益州即指成都。

上元元年（760年）九月，罢京。历时不到三年。

宋朝南京应天府（今河南商丘），五代时称宋州，宋真宗景德三年（1006年）升为应天府，大中祥符七年（1014年）建为南京。下辖宁陵、宋城、谷熟、下邑、虞城、楚丘六县。宋朝的南京具有重要的政治地位，宋朝的南京地处大运河通济渠（汴河）咽喉要道，四通八达。宋朝州郡办学始于南京应天府（商丘），南京拥有良好的经济基础和浓厚的兴学重教氛围，应天书院升格为南京国子监，成为宋朝最高学府之一。

辽代是古代少数民族契丹人建立的封建王朝政权，共有五个都城：上京临潢府（今内蒙古巴林左旗南）、中京大定府（今内蒙古宁城西大名府）、东京辽阳府（今辽宁辽阳）、西京大同府（今山西大同）和南京析津府（今北京），合称“五京”，其中南京城规模最大。

按照《辽史·地理志》记载，南京城周长36里，城墙高3丈，宽1.5丈。城有8门：东为安东门、迎春门，南为丹凤门、开阳门，西为清晋门、显西门，北为通天门、拱辰门。其中有两条贯穿城市的大道：一条为东西向，联通了清晋门和安东门，它是广安门内、外大街的前身；另一条为南北向，联通了拱辰门和开阳门，大致相当于今天的闹市口大街南段、长椿街、牛街加上右安门内大街北段，也就是10路和626路公交车从“长椿街路口北”到“南樱桃园路口北”所走的路径。辽代时，南京城有30万人，包括了汉、契丹、奚、渤海、女真等民族。南京城内划分了26个“坊”，各坊有围墙、坊门，门上有坊名，以此管理城内居民。据《契丹国志》记载，南京城“大内壮丽，城北有市，陆海百货，聚于其中。僧居佛寺，冠于北方，锦绣组绮，精绝天下……水甘土厚，人多技艺”。

辽代南京城基本上是沿用唐幽州城，只是重修了城墙，并没有进行大规划的改造。

金海陵王完颜亮迁都开封府，定开封为金代“南京”，以“南京”开封府作为他南下侵宋的基地。金正隆六年（宋绍兴三十一年，公元1161年）十月曷苏馆猛安完颜福寿等人与南京留守司军队共同发动政变，拥立东京留守、曹国公完颜雍（乌禄）为帝，改元大定，这就是金世宗，金世宗称帝后下诏废黜完颜亮皇帝位；随后完颜亮准备占据江南，与金世宗完颜雍对抗；金正隆六年十一月，他在瓜州渡口集结的水军叛乱，乱军将完颜亮杀死，当时他年仅40岁。金世宗完颜雍迁都燕京（今北京），开封府仍为南京。

金贞祐二年（公元1214年）三月，蒙古军队进逼金中都北京。金宣帝遣使请和，并以卫绍王的女儿为岐国公主，嫁给成吉思汗，并献纳金帛及童男童女500人、马3000匹，成吉思汗才下令退兵解围；当年五月，金宣宗唯恐蒙古大军再来，加上财用不足，乃决定南迁南京开封府。金宣帝完颜殉贞祐二年（南宋嘉定八年，公元1215年）七月迁都至金南京开封府后，立即遣使告知南宋皇帝。南宋皇帝采纳臣下意见，废除进贡金代皇帝岁币，双方由此引发战争，连年不断。

金代定都南京开封府18年。

明朝永乐十九年正月（1421年），明朝朝廷正式迁都北京，以顺天府北京为京师，应天府则作为留都，由京师改称南京，将今天的安徽、江苏、上海二省一市的范围合称为“南直隶”。清初顺治二年（1645年），满清攻克应天府后将明代南京（南直隶）改为江南省，将应天府改称江宁府。

历史上位于我国以及朝鲜半岛的北方少数民族政权渤海国也设过“南京”。这个“南京”故址在今朝鲜的咸兴，其具体地址有两种说法，一是位于今咸镜北道镜城，一说位于今咸镜南道北青郡新昌附近。

2022年12月，入选江苏省2022年省级地名文化遗产名单。