《齐乘》载：“沂山，汉武所封之东泰山也”。民国《临朐续志》载：“自黄帝登封后，汉武帝从公玉带之请，亲至山下，令礼官祀之”。594年(隋开皇十四年)，立祠山阿。962年(宋建隆三年)，因祭祀不便，移至山下九龙口(今东镇庙村)。
元、明、清各朝沿袭祭之，每祭必碑。另有文人墨客的游览题咏诗刻。至清末计有大小碑碣360余幢，形成规模宏伟、气势壮观的碑林。其中有965年(北宋乾德三年)御碑、宋仁宗赵祯景?御碑、1298年(元大德二年)诏封沂山为东安王的蒙汉文御碑、1370年(明洪武三年)朱元璋诏封“沂山之神”御碑。清康熙手书“灵气所钟”御碑、乾隆亲笔“大东陪岳”御碑、1406年(永乐四年)征伐安南黎苍父子犯边的祭告碑、明成化年间户部尚书杨鼎的代祀碑、户部尚书翁世资撰文的重修东镇庙寝碑、明弘治进士陈凤梧赞咏沂山的手书行草诗刻以及明万历年间状元赵秉忠的观沂山瀑布草书诗刻等。这些碑刻，不但记述历代封建王朝致祭东镇的香火盛事，而且反映了当时军事、政治和自然灾害等情况，对研究元、明、清代的历史，探讨古代文学、书法和镌刻艺术也有较大的价值。东镇碑林，由于年深日久，风雨剥蚀，又加内外战乱，摧残严重。特别是日军入侵临朐后，用碑石修大关桥，碑碣毁坏较多。以后，所存碑碣几乎全被推倒、破坏、幸存者也任人搬取，铺为甬路，砌于墙基。1979年后，人民政府拨款对东镇碑林进行挖掘、考查、修复。至1987年底，已复立古碑碣89幢，初复碑林面貌。碑林间仍存有古柏老槐、宋朝银杏，为
碑林增添了秀色。