郑州文庙始建于东汉明帝永平年间(公元58-75年),当时的文庙共有殿宇廊亭200余间,东西有过街牌坊各一座,乾隆三年曾经大规模修建,光绪二年遭火焚,现仅存清代建筑大成殿和戟门两座古建筑及几间小厢房。
郑州文庙曾是郑州历史最久、占地最广、规模最大的古建筑群。元代初期的郑州文庙占地37亩,由前院、中院和后院组成。后遭焚毁,元顺帝至正六年(1346年),官署按照原来的样式重建,明、清两代亦多次重修,但清光绪二十二年(1896年)文庙再遭大火,建筑几乎焚毁殆尽。
现存的大成殿坐北朝南,殿宇雄伟高大、庄严肃穆。大殿顶面覆盖绿色琉璃瓦,脊的两端各有2米高的龙头形构件,称为“吻”,其意龙司降雨,是防火的标志。大殿的东、西侧面是“两山”,有玉皇大帝、如来说法、八仙过海、戏曲人物等图案,构图精美、制作细致。