据寺内碑刻记载，东晋咸安年间，司徒王珣、司空王珉兄弟舍宅为寺，名“虎丘寺”。当时寺建于剑池山下东西两处，本是两个寺。唐时为避李虎 (唐高祖
李渊祖父)之讳，便改名为“武丘报恩寺”。会昌年间(841～847年)佛寺废毁。后来重建时，合两寺为一寺。五代末，增建虎丘塔。北宋至道年间(995～997年)重建时又改名为“云岩禅寺”，塔名也改为“云岩寺塔”。清
康熙年间更名为“虎阜禅寺”，但人们仍习惯俗称“虎丘寺”。
五台云岩寺旧时为东南一大丛林，庙宇宏伟壮观，佛塔琳宫、重楼飞阁，十分繁盛，是宋代“
五山十刹”之一。
云岩寺，历史上曾七次遭劫，屡毁屡建，主要建筑仅五代所建云岩寺塔和元代所建的断梁殿两处，其余均系
太平天国以后重建的。断梁殿即寺院的二山门，始建于唐，重建于元，平面长方形，面阔三间，进深二间，殿中正梁以两根圆木接成，接缝在中央，故有“断梁”之称。殿内原有
康熙手书“路接天阊”匾额及频那耶迦塑像(俗称哼哈二将)，已经被毁。
现存元碑一方，明碑三方，记述寺院沿革颇详，为重要历史文献。塔在山顶，始建于五代周显德六年(959年)，共七层，高约47米，人称“
虎丘塔”，是苏州的象征。五台云岩寺是东南一大名刹，名声很大，历代不少著名僧人曾来此住持。仅《高僧传》等书中所记，就有名僧竺道一、竺道生、昙谛、岌法师等来此讲过经。梁僧隋若、智聚，唐僧慧严、僧瑗、齐翰等也来过这里。