从镇南街后登龙蟠山，拾级而上约二十步为古城堡。在山坳分设两道城垣，第一道长近百米，高约二丈，厚约八尺。拾级再登数丈，便是第二道城垣，长达一百几十米，高二丈许、厚约一丈二尺；且在城门上，设守城“岗楼”（今已无存），扼险防守。传初修城堡为
宋朝。当年随狄青南下平侬的士兵奈于返乡山高水遥，见此处风光不错，乃留下定居。为防御匪患侵扰，那些人便与当地群众在此处砌石建起城堡。此后城堡几经修葺。在第二道城门左侧，如今尚有一块《大清光绪贰拾年岁次丁酉季冬月重修龙蟠山碑记》的大石碑，碑文有叙及当时的历史背景曰：“……我圩无山水之足恃，无城池之堪依，当逢世治，固乐安居，如遭时艰，难保无患。缅维咸丰末年，寇盗频临，兵燹交起，当是时也，圩遭运否。……虑悠远久，拟重修乎附圩之龙蟠山，以备我圩有遇变之计……爰集同人，共捐资斧延石匠以砌围墙，又叠方石以作炮墩……”由此可知，龙蟠山城堡是属于居安思危，防患于未然的设施。
清朝末年，镇守广西龙州地区的广西提督苏元春（人称苏宫保）来到天等，动员州官与人民群众做好防御法国鬼子侵略的准备。他还资助天等人民建炮墩七个，其中在龙蟠山四个，在龙脉山三个。
从城门左侧拾级而上，共一百四十九级石阶，即到龙蟠半山腰的溶洞。此洞过去夜间常有夜鹰啼叫，故名“夜鹰岩”。此岩虽不深，但却宽敞明亮，日照不到，雨淋不着，一进洞口，清风飒飒，迎面拂来，凉意袭人。1928年3月，龙茗县赤卫军领导人汤学礼，曾在夜鹰岩中创建龙茗县第一支农民赤卫军，创办一期30多人参加的军训班，时间一个月。龙蟠山因此成为左右两江革命策源地之一。后来当地居民把夜鹰岩改为庙堂。每月初一十五，远近群众到此设坛诵经，求神拜佛。
从古城堡门口进去，群峰环抱，中间是一片广阔的坪地，坪地上古木参天，郁郁葱葱。春天到来，木棉花红，桐树花白，互相辉映；鸟鸣蝶舞，令人心旷神怡。平地中央有一口天然水池，约四五米见方，周围用石块叠砌，池水清澈甘冽，长年不涸。每逢雾日晨曦，龙蟠山巅，薄雾缭绕，如笼轻纱，朦朦胧胧，若隐若现，使人产生“山在虚无缥渺间”的幻觉。至若风和日丽，登山远眺，天城景色，一览无余，新楼旧舍，星罗棋布，绿树如黛，水塘似镜，别有风趣。