据明万历年修《镇江府志》载，系唐贞观二年(628)始建，但无可考。清初仅有茅舍3间，康熙年间扩建后始具规模。咸丰三年(1853)毁于兵燹，同治十二年(1873)、光绪二十八年(1902)和1982年数度重修。寺院建筑布局近似菱形，占地面积2000多平方米。大门朝西，南北两侧砌有斜形八字式小照壁各1方，屋檐下有5个木质彩色斗拱装饰，大门对面立有总面积为77平方米的长方形大照壁，上书“敬天爱人”4字。门额上朱漆匾书“
清真寺”3宇。院落为东西向长方形，南面是讲堂，北边是走廊，东边为对厅，西边是中国传统宫殿式礼拜大殿。中为158平方米的天井，铺有十字甬道。大殿正面为5开间，有玻璃长窗20扇。大殿主体高9米，内部彩绘图案近千幅。总面积440平方米，可容500人同时礼拜。哈德成、买俊三、马品三等著名阿訇曾在该寺学习和任教长。该寺曾经是
中国伊斯兰教汉文经籍的刻印中心之一，印行过《天方性理》、《天方典礼》、《正教真诠》、《四典要会》等20多种木刻版汉文典籍，为
伊斯兰教在中国的传播和发展发挥过重要作用。1937年，由马仁山、夏容光等发起劝募资金，在该寺内创办了“回教施诊所”，每年端午节至重阳节为施诊期，回汉族患者均可免费就诊。
抗日战争时期，“回民穆源小学”曾迁入该寺。现寺内存有明万历庚申年(1620)进士李一阳撰“古润礼拜寺”石碑1块。镇江
伊斯兰教协会设于此。该寺被列为
镇江市文物保护单位。 寺内所办清真大学亦颇具实力，有案可查者自清末以来有安徽毫州王宝云阿訇（哈德成、刘彬如等知名尔林为其门生）、粤东杨竹坪阿匐、河南桑坡买俊三阿訇、安徽
和县马品三阿訇等知名尔林，培养了大批经学人才。
清末民国初年，寺内先后成立“信一堂”、“求恕堂”、“诚信堂”、“启发堂”等组织，辅助教长宣扬教义之外，兴办穆斯林公益事业．
抗日战争时寺内成为避难所，挽救了大批回汉难民生命；穆源小学校舍被日机炸毁后，师生迁入该寺复课；1939年寺内又创办回教施诊所，为回汉人民共同服务，每年免费义诊施药千人滴；40年代还曾成立镇江回教殡葬服务社。“文革”非常时期，仅留一边门堂未被占用，由马忠麟老人看守并负责为穆斯林进行殡仪和宰性等服务，他危难中信仰之坚令人钦佩。 镇江地处江南，经济文化一向发达，曾出现许多穆斯林杰出人物，如近代童琼为最早倡办回族新式学堂者之一，并发起组织东亚清真教育总会，另如杨心斋、金浩如、杨光宇等投身工商界，为穆斯林公益事业颇多出资。 山巷寺内经版等文物多巳被毁。现存文物主要有从城内
剪子巷清真寺移来的《古润礼拜寺记》巨碑，碑高220厘米，宽80厘米，厚25厘米，文为明代万历间李一阳进士所撰修寺碑记；从原苗家巷寺内移来的阿拉伯丈“米哈拉布”遗碣等。本寺坊现有教民800余户，2100多人，均为回族。
镇江市伊斯兰教协会驻该寺。