宋代,海运贸易发达,船舶进港出海,粤、闽船员有祭拜妈祖之俗(
妈祖为宋都巡检林愿第六女默娘,传说死后成神),祈求海上平安。当时有福建商人在十六铺外滩江边建顺济庙供奉妈祖。清代改称天后宫,屡建屡毁。清光绪十年六月,迁址重建落成的新天后宫,入门是广场,中间建有戏台,广场两侧是看楼,戏台的后进是大殿,殿后寝宫。大殿为九脊歇山顶,殿宇高敞,雕梁画栋,气势恢宏。天后宫重建后,香火鼎盛。但到清末民初,逐渐衰落。
辛亥革命以后,出使行辕改为上海市商会会址,天后宫内赌摊林立,藏污纳垢,秩序混乱。租界当局多次声言要入内查禁。地方款产经理处总董秦锡田、协董沈周有鉴于此,决定整顿宫风,驱逐赌摊,将戏台看楼改建为第三小学,
中华职业教育社也借用看楼创办商业学校。当时,上海的各界人士往往也假天后宫开展一些活动。民国16年3月12日,李立三曾假天后宫集会,成立上海总工会。四一二国民党右派叛变革命,进驻天后宫,在宫内设立国民党上海第三区党部。进而驱逐道士,捣毁神像,将大殿改建树基小学。民国26年
八一三事变后,该宫曾改作难民收容所。上海沦陷期间,佛教僧人知空师徒一度住持该宫,在内改祀佛像。