真武庙始建于北宋景德年间，为四合院古建筑，进山门有正殿3间，进深5米，楼高3.5米，供奉真武大帝铜像一尊，金心银胆，身高7尺余。殿前有双龙戏珠铜香炉一座，两厢配殿各3间，供奉诸神，后有僧舍等生活用房16间，建筑面积共400平方米。
此庙年深日久，香火渐盛，民间流传有许多神话。相传，当年浇铸真武大帝铜像时，曾有讨饭人捐出一枚铜钱，受到匠人嘲笑，并将铜钱摔进阴沟。铜像铸成后，身上有一铜钱大的围孔，难于修补。
匠人遂想起讨饭人捐铜钱之事，从阴沟中取出铜钱放上，恰好不大不小，严丝合缝。匠人这才明白，那讨饭人本是神仙化身，真武大帝铜像乃神仙相助方才铸成。 真武庙内有口古井，井有多深，无人知晓。一皮匠出于好奇，用扁担测试井深，不慎失手，扁担掉入井中。
事隔数日，一渔翁担鱼进城出售，巧遇皮匠，皮匠认出渔翁所用的扁担，正是自己几天前在真武庙井中丢失的那根，便问渔翁扁担何处得之，渔翁说，这扁担是在海边打鱼时捞上来的。于是人们推断，真武庙古井是神水，与大海相通，水质甘甜可治病。
文化大革命期间，红卫兵多次闯入庙内，殿宇结构牢固，无法砸烂，这才纷纷离去。阜宁境内其它庙宇、庵堂，经历劫难，皆毁之殆尽，唯独真武庙仍保存至今。
建国后，真武庙曾由县房管部门管理，也作过阜城税务所办公用房和职工宿舍。1985年，
江苏省人民政府派考古、建筑专家到该庙考察论证，确认这座古庙具有保存价值，定为国家三级文物重点保护单位。
1993年9月，阜宁县人民政府决定将此庙产权发还给宗教团体，1994年，阜宁籍的上海宝山寺住持丛达法师，无偿捐赠了价值数万元的三尊佛像和香炉、大木鱼等佛用物品，又资助了3千元人民币。