蔡州文庙始建于元朝大德八年（公元1304年），自李演创建街北，至嘉靖三十三年（公元1554年）朱令如，两朝二百余年三易其地。民国初期，多次驻兵，频遭破坏，土匪入城又受糟蹋，庙中文书、乐器、祭器、舞衣等尽散失；部分祠、亭、斋、廊及奎星楼、文明楼皆倒塌，石碑、石门损坏，抗日战争时龙门也被扒掉。后经两次整修文庙，又伐掉了院中的一些古木佳树，大成殿后墙正中，改为向后凸出，孔像后移。在此期间，该处曾办过劝学所、师范讲习所、初级小学、完全小学等。

据新蔡县志记载，文庙黉学在元、明两代三建两迁：元朝大德八年（公元1304年）县令贺镇，始建于城东门外路南，仅粗建大殿。大德十一年（公元1307年），知县李演在此基础上建成。元末倾圮。明洪武十一年（公元1378年），知县应宗毅重新修建。天顺元年（公元1457年），训导汪正言以其偏僻不便，奏请迁建，遂由城东门外的路南迁至路北；正德十二年（公元1517年），知县刘汉以文庙在城外有欠尊重，梦寐思迁，巡至城东南角尼寺，认为此地闿爽奇秀，是为善地，遂拆寺宇、毁偶像，动工迁建，但刚建起讲堂，因刘汉离职而停工。此时大殿仍在城外，新建讲堂称为南学。嘉靖三十三年（公元1554年），知县朱茹到任不久，即议在此基础上兴建学宫。至次年五月建成。明末，复遭兵火，宫墙颓废。清顺治年间，知县钟鳄、谭宏宪、于述绪等都曾重修。康熙二十四年（公元1688年），知县吕民服又增修，并添置祭器、舞乐等设备，建立严谨的制度，使庙容焕然一新。

民国初期，多次驻兵，频遭破坏，土匪入城又受糟蹋，庙中文书、乐器、祭器、舞衣等尽散失；部分祠、亭、斋、廊及奎星楼、文明楼皆倒塌，石碑、石门损坏，抗日战争时龙门也被扒掉。后经两次整修文庙，又伐掉了院中的一些古木佳树，大成殿后墙正中，改为向后凸出，孔像后移。在此期间，该处曾办过劝学所、师范讲习所、初级小学、完全小学等。

解放前夕，文庙又遭洗劫，院中建筑仍存多数遗迹。解放后，政府在这里重新办起完全小学。文化大革命中，仅存建筑再度蒙难，孔子铜像一下肢被毁，修复后移至县文物保护单位保管。大成殿虽历经沧桑，风剥雨蚀，仍保持古代建筑特色，现列为省级文物保护单位。

大成殿为五脊单檐歇山式高台重梁三进深，砖木结构建筑，面阔五间，高9.2米，宽18.5米，进深9.8米，重梁起架，梁柱直径0.40米，柱础为青石，直径0.43米，方坐0.72×0.72。灰瓦覆顶红砖砌墙，滚龙背，两端龙头昂伸，斗拱为一斗三升，四角外翘，铁钟高悬。

前壁为透花木棂门，门上雕有八仙图案，格窗。

殿内后墙正中四尺高的神台上，置精作木质神龛，正中端坐孔子青铜像（此像为明代制作的，目前国内仅存的一座孔子青铜像），高1,25米，重200公斤，衣襟左下角铭文为：大明敕封刑部主事曹大夏于嘉靖庚戌年长至日恭造，右下角铭文为：先师孔子司寇像颜曾思孟像各一尊奉之熟宫钦于万世。像前立一灵牌，金字书写“至圣先师孔子之位”，两旁陪有颜、曾、思、孟四牌位。神龛的两侧置有铁铸兽樽二尊，神龛前挂有锦帐，借以遮尘。殿廊正中高悬着康熙二十四年御书“万世师表”的匾额。殿内存四尊石碑：1、重建儒学碑记；2、重修儒学碑记；3、重修文庙碑记；4、颜子赞碑。大成殿东西两厢，各有廊屋七间，廊屋正中门楣上题字东曰“金声”、西曰“玉振”，取其“以金钟发声，以玉馨收韵，集众音之大成”之义。

殿前檐正中悬一竖匾，上书“大成殿”三个金色大字。

檐下月台，高0.7米，宽0.8米，月台东西各有踏步，南部正中镶有雕刻精细的青石龙图案。殿前东西各竖一尊下马碑，高0.25米，宽0.5米，碑文为：“奉旨文武官员军民人等至此下马”。

据县志记载：旧时逢春秋大祭，人流络绎不绝，香烟燎绕大殿。

新蔡文庙的孔子铜像是我国唯一的一尊明代孔子青铜像。它是由青铜（铜、锡、铅合金）经铸造出陶范，再经精细加工、雕刻花纹，最后描金而成的。像高1.3米，座宽0.9米，肩宽0.45米，重200公斤，头戴云纹莲花冠，足蹬朝靴，身着朝服，衣襟滚锦边理纹与莲花纹，胸系飘带，漆平端坐，手捧朝笏，面如满月，二目俯视，显得温文尔雅端庄肃穆，俨然一种诲人不倦，学而无厌的学者风度。该像左下铭文：“大明赦封刑部主事曹大夏于嘉靖庚戊年长至日恭造”（公元1550年铸造）；像右下铭文：“先师孔子司寇像颜曾思孟像各一尊奉之孰宫钦于万世”，该铜像是我国仅存的时代最早的一尊孔子青铜像，堪称国宝。

新蔡文庙位于新蔡县城古吕办事处东南隅，南距南城河路（明临路）150米，距驻新路、106国道均不足1500米，距拟修建的阿深高速公路约15公里，有道路通。距驻马店市102公里，距嵖岈山风景区130多公里，距薄山湖风景区120多公里，距铜山风景区160多公里。