金刚寺，位于有庐江县城四牌楼西侧，始建于（公元898年）唐光化元年，故原名光化寺。为
淮南节度使、吴王杨行密舍宅改建，因寺内有金刚院，后易名金刚寺。寺成立后，吴王因慕伏虎禅师之名，聘其为首任住持。
伏虎禅师，姓厉，庐江黄屯乡人，生下时，因双目失明，被父母抛入黄屯附近的光明山顶石窟之中，遇一母虎，以乳哺之三载。后，虎又以爪刨地，得一清泉，伏虎禅师以水洗目，双目遂明。（此泉即虎刨泉，至今犹存）。伏虎禅师成人后，遂结茅庵于光明山顶，与虎同隐循修，德行高洁，禅理圆通，唐照宗闻其名，赐号“孝慈伏虎禅师”。
伏虎禅师住持该寺，昌隆鼎盛，仅一年间，受戒弟子就达八百之众，独占江北寺庙之鳌头。尔后，禅师云游冶山，爱其清幽，另建两寺（无量殿、冶父寺）于南麓、山巅，金刚寺自此为冶父寺之下院，共创“江北冶父山”之宏图。
历唐、宋、元、明、清至今，千年古寺闻名遐迩，却又历尽兵燹、天灾、改朝换代之沧桑，几度中兴几衰亡，至近代抗战初期，日机屡炸庐城，神龛被毁，解放前，寺院又被地方卫生院、法院占用，而文革期间，大雄宝殿被严重损坏并倾颓，殿中佛宝更被洗劫一空。
今又逢盛世，庐江县委、县政府十分重视对金刚寺古建筑的文物保护，为弘扬
佛教文化，对该寺进行募捐、开发和利用。当家住持释本明老尼师，时年75岁，为此奔走募化，自1996至2003年的七年间，她不畏险阻，跋山涉水上九华，多达六、七十次，她以最低的水准维持生计，把别人送她的补品都卖掉贴补寺用，在其爱国爱教的精神感召下，金刚寺得到了全社会的广泛支持与赞助，自1996年冬起动工修复，至1998年十月竣工，耗资60余万元，大殿得以全面修缮，但这还只是古寺重辉的第一步。又经过五度寒来暑往，历尽千辛万苦，释本明尼师在九华山大天台释宏学法师、冶父山释满成法师及无数善心、善缘的倾力相助下，终又募化数百万巨资，复原并更新了大量的佛宝、文物，重创了金刚寺旷古未有振兴与辉煌。
而今的金刚寺，大殿高15米，宽20米，占地450平方米，巍峨瑰丽，古朴典雅，雄伟庄重。大殿正上方供奉三尊大佛，东西供奉伽蓝十八罗汉，殿后一尊自缅甸进口的汉白玉释迦牟尼卧佛，重达9吨多，堪称希世之佛、罕世真宝。寺内有一口古井，深1200米，四季泉水清澈，煮饭烧茶，香气扑鼻，经县文物管理部门鉴定，为唐（宋）古井。目前，寺内供奉大型佛像52尊，全由名贵木材雕刻，纯金装饰。皆栩栩如生，流光溢彩。
大殿正面有高达4米的旋转万佛灯两座，琳琅满目，宝气珠光，蔚为奇观。尤为珍贵的是大殿左右两侧有大型钟鼓一对，鼓为圆型皮面大鼓，直径为140厘米，气势夺人，声振屋瓦；钟是紫铜（掺银）大钟，重逾2吨，自苏州定制，价值15万元，音色恢宏悦目，响遏行云，是天下少有的镇寺之宝。