东晋前秦皇始元年（351年），高僧朗公西游东返，隐居于此，创建朗公寺。当时有上下诸院十余所，长廊广袤千余间。隋唐时更加兴盛，僧侣达500余人，大建佛塔，广造佛像，遂成佛教盛地。原寺以门楼、大雄宝殿、千佛殿、方丈禅堂、法堂为中轴线，左右以伽蓝、达摩两配殿及斋廊为翼，至清代荒废。今谷中讲经堂、天王殿遗址尚存。讲经堂传为朗公讲经处，现存完整青石柱4根，残柱4根：有的仅存半截，有的仅存柱础。1964年，在其后发现唐代殿堂遗址，基台呈长方形须弥座，东西长12．65米，南北宽10．77米，高0．75米，束腰0．3米。束腰处雕有各种形态的歌舞伎人物。1980年复原基台，建长廊保护。 青龙山上，自南而北有
四门塔、
小宋塔、
小唐塔、小龙虎塔。白虎山西崖为千佛崖石窟造像，前有墓塔林。