晋咸和九年（ 334 年），
庾亮接任江、荆、豫、益、梁、雍六州都督，领江、荆、豫三州刺史，号征西将军，迁镇
武昌。在武昌期间，庾亮“崇修学校，高选儒官”，“坦率行已，招集有方，政绩丕著。”被地方誉为典范。
《世说新语·容止》：“庚太尉（亮）在武昌，秋夜气佳景清，使吏殷浩、王胡之之徒登南楼理咏，音调始遒，闻函道中有屐声甚厉，定是庾公。俄而率左右十许人步来，诸贤欲起避之。公徐云：‘诸君少住，老子于此处兴复不浅。’因便据胡床，与诸人咏谑，竟坐，甚得任乐。”
庾亮有一次戴月闲游，踏木屐漫步登上南楼，其部属殷法、王胡之等人正聚会南楼赏月，看见庾亮的到来都惊慌不已，准备回避，庾亮就势躺倒在胡床上，笑着阻止了大家，并和部属一起不拘一格地闲聊起来。此后，人们将庾楼称为“玩月楼”或“庾公楼”，赞赏庾公平易近人和坦率真诚。
唐代大诗人李白来到武昌，陪宋中丞在南楼夜饮，听人谈起庾公当年故事，不禁乘兴写下一首诗，使南楼流誉更广。李白游过南楼之后，历代名人墨客到南楼的咏叹也络绎不绝 ，更让这座古楼闻名于世。
南楼在历史上曾被多次修葺。明、清两代，戚元礼、谢叔宾、
熊登、邵遐龄等地方官各修葺过一次，熊、邵二人还各留下《重修庾楼记》一篇。现存古楼是民国年间在原基复建的，内空高 12 米，宽 11 米，长 16 米，人车通畅无碍。 1983 年后，鄂州市政府将古楼列为重点保护单位，曾拨专款修葺一新，现已成为中外游人观瞻眺远的著名景点，2002年11月，庾亮楼被列为湖北省第四批重点文物保护单位。