莫邪寺曾隐卧在定远西部青山北边的五峰山下，如今遗踪尚存。据史料记载，春秋时代，定远属于楚国，由于秦国势力强大，迫使楚国向东迁移，都城由郢（今湖北省江陵县北）迁往寿春（今安徽寿县），仍称“郢都”。定远西部距寿春不足百里，很多方面留有楚国遗风，山野乡村现在仍有不少带“郢”字的，如唐伯郢、郑家郢、郢里张、司皇郢、老郢董等。当时这里铁、木丰裕，山泉水质优良—水称冶溪，铸件用它来蘸火，坚硬锋利无比，再加上铸造技术水平高，使干将莫邪受命于楚王，在这一带山中铸造莫邪剑成为可能。收集故事的东晋史官干宝，家居新蔡（今河南省新蔡县），官邸在建康（今南京），常途经定远古驿道莫邪山中，他有机会，也有责任采集流传于定远民间的故事《干将莫邪》：莫邪在山中铸剑三年，磨成神剑二把，他在临献雌剑给楚王时，交待怀孕的妻子及将来的儿子找雄剑：“出户望南山，松生石上，剑在其背。”后来莫邪被楚王杀害，儿子眉间赤（两眉之间有朱砂肤色）按父语索剑，出门南望，不见有山，只见廊檐下有石鼓基石顶着粗大的廊柱。眉间赤心领神会，破开木柱，得到雄剑，遇有壮士相助，杀了楚王，报了杀父之仇，留下了三王墓。
如今莫邪寺遗址左、右、后，山峰重岩叠嶂，独有寺南倚山地势和缓，空旷开阔，树木蔚然，无遮无档，当地人称之为“椅子”宝地。继干宝之后北魏郦道元在《水经注》中记：沿钟离国（今凤阳县临淮一带）至阴陵（今定远靠山一带）古道南行六十里，进入莫邪山峡谷中。古传干将莫邪在山腰幽洞铸剑而得名。按文学史家游国恩、朱东润先生观点：干将是姓，莫邪（yá）为名。由此可知，南北朝时代，定远西北部一带的凤阳山脉就称为“莫邪山”。莫邪山东西横亘者，现名为槎丫山；南北连绵者，为五峰山，峡谷宽约三十米，长约十里。
据传，在莫邪铸剑处的五峰山建莫邪寺，一是为纪念铸剑大师干将莫邪，用梵语经文超度他与儿子眉间赤早入西方净土（
西方极乐世界）；二是借莫邪雄剑的神威，来弘扬佛法无边，普渡众生；三是因为莫邪寺地处于古代驿道旁，便于众生与信徒来此参禅悟道，传教扬名。这些也体现了古代寺院的特点。
莫邪寺在千百年历史长河中几经变迁，到清代“康乾盛世”时规模最大。据《定远县志》记载：“莫邪寺相传乃干将莫邪携子隐居避难之所，当年佛像千尊，晨钟暮鼓，百僧诵经，香火不断。”莫邪寺在儒道佛合一时代，依道家“九九归一”法则，建殿宇九十九间，凿井九十九眼，有三步二井之说，有屋上井，梁上泉，泉上庙，泉上泉，星罗棋布。井与泉之多，一是为了供奉当年干将莫邪铸剑蘸火的圣灵之水；二是说明寺院水源充沛，寺内僧侣众多，人流量庞大，用水量很多。今天依稀可见的遗址有从山下到山顶宽约200米，长约300米的建筑带，很是宏大壮观。莫邪寺神奇的传说、优美的景色与空蒙玄秘的佛教融为一体，留在了古人吟咏的诗句中。清人王溥《莫邪山》诗写到：“山空人迹杳，犬吠碧云深。剑气销为雪，松风击作音。到门寒滴翠，入室昼生阴。若有幽入卧，孤云自古今。”王溥在《五峰山》诗写到：“隔面数峰迥，披云径可寻。山空悲霸气，草冷想虞心。落木依僧空，幽禽卧月深。古今离别恨，流水弄清音。”清代王衷《登五峰山寺》诗写到：“偶经栖佛地，碧草冷云峰。梵语落尘虑，龙宫起拜容。拈花初见月，隔水忽闻钟。独坐山房静，潜风度竹松。”
莫邪寺香火兴盛，烟雾缭绕不绝，到民国初年，尚存殿宇三出三进，每进有七间。每年农历三月三日逢庙会九天，百里同赴，拜谒者数千。当地山野老者依稀记得当年庞大的进香队伍，繁华的庙会景象。那时莫邪寺古柏葱茏，参天入云，有笆斗粗的银杏树数百棵，有传经、献艺、唱戏的高台很多处。莫邪寺毁于日本侵华战火，如今夷为平地，还留有二十多米高的银杏树一棵，直径有一米多，已枯死。西畔山崖与东边山坡遗有石砌平台二处。殿宇遗址上存有顶廊柱的石鼓基石多个，枯井偶见几眼。由于山洪冲刷，寺院断垣残壁少见，可被当地人称为“千年柴”，直径约在一米五左右的老树根，在寺庙庭院及四周偶然可见。
如今定远西部民间还保留有，称小孩打架闹事方言为“莫邪（yá）割角”、“莫邪(xié)”。干将莫邪的故事也诠释了定远西部人民强悍骁勇，不畏强暴性格成形的深层文化渊源。抚今惜古，引以为憾。千古名刹莫邪寺根植于一个古老而悲壮的故事，记录着凤阳山一带佛教与寺院兴衰的历史，积淀着定远悠久的历史文化，给后人留下一段超越时空的思考。