南兰陵记载于《南史·齐本纪上》上：南朝齐高帝萧道成“其先本居东海兰陵县中都乡中都里，晋元康元年，惠帝分东海郡为兰陵，故复为兰陵郡人。中朝丧乱，皇高祖淮阴令整，字公齐，过江居晋陵（今常州市）武进县之东城里，寓居江左者，皆侨置本土，加以‘南’名，更为南兰陵人也。”

彼时的东海郡是现在山东的郯城。公元291年兰陵郡从东海郡中析置。东汉、西晋末年，为避战乱，北方士族大举南迁。山东兰陵萧氏也渡江徙居江南。淮阴令萧整带着兰陵县的族人，避难至武进县的东城里一带，后在此及附近世代定居。317年，东晋元帝宣布可在江南地区建立侨郡、县，保持北方原郡、县名。318年，侨置兰陵郡、兰陵县于今江苏武进县境，兰陵郡领兰陵县（郡、县皆无实土）。在此生活了100多年后，萧家成为武进的旺族，并诞生了齐朝和梁朝的开国皇帝齐高帝萧道成与梁武帝萧衍。梁武帝登基的502年，将武进县改名兰陵县，以示不忘祖籍地。后为区分，改名南兰陵郡、南兰陵县。

顾祖禹《读史方舆纪要》卷25亦有记载：“常州武进县”有“兰陵城”，云“晋太兴初，始置兰陵郡及兰陵县于武进界内，宋因之，亦曰东城，以在武进东也。”然其位置应为今之常州西北。清光绪《武进阳湖合志》卷一《沿革表》：“故城在常州武进西北六十里。”