西晋太康元年（280年），因上蔡人怀念故土，改上蔡县为望蔡县，属豫章郡。1949年7月14日上高县解放，属袁州区；1952年9月属南昌专区；1958年12月属宜春专区；1968年2月属宜春地区；2000年8月宜春撤区设市，上高属宜春市。

西晋太康元年（280年），因上蔡人怀念故土，改上蔡县为望蔡县，属豫章郡。南北朝梁（502—557年）望蔡县属豫章王国。隋朝开皇九年（589年）望蔡县复并入建成县，属洪州。大业初（605年）洪州复改豫章郡，仍属豫章郡。唐朝，武德五年（622年）复立望蔡县，属靖州；七年（624年）属米州；同年改筠州；八年（625年）望蔡县并入高安县，属洪州。中和元年到五年（881—884年），镇南节度使钟传以望蔡地居高安之上游，加上地形也比较高，初置上高镇。上高因此得名。五代十国时，南唐升元中（937—942年）废上高镇，改设上高场。南唐保大十年（952年）升场为县，始名上高县，属筠州。宋朝，南宋宝庆元年（1225年）属瑞州。元朝，世祖至元十四年（1277年）升瑞州为瑞州路，上高属瑞州路。元贞元年（1295年）升新昌县为州，上高属新昌州。明朝，洪武二年（1369年），改瑞州路为瑞州府，上高属瑞州府。清朝，沿袭明制，隶属未变。民国三年（1914年）江西省分为四道，上高县属庐陵道；十五年（1926年）废道，上高直属于省；二十一年（1932年）省下设行政区，上高隶属第八行政区；二十四年（1935年），上高属第二行政区。1949年7月14日上高县解放，属袁州区；1952年9月属南昌专区；1958年12月属宜春专区；1968年2月属宜春地区；2000年8月宜春撤区设市，上高属宜春市