大成殿是如皋文庙建筑群中唯一幸存的大型古建筑，座落在如城东南隅如皋师范附属小学院内。大成殿为明代全楠木结构。据史料记载，如皋文庙始建于南唐保大十年（公元952年），原址在今人民公园西侧，即中禅寺故址附近。北宋大中祥符八年（公元1015年），县今曾易占在庙内建大成殿教堂。南宋初年，文庙被移建到县城西南隅，即今胡公祠故址。
元末毁于兵燹。明洪武三年（公元1370年）重建。明嘉靖十九年（公元1540年），巡盐御史吴楼、焦琏，知县黎尧勋移建文庙于现址，兴建大成殿、东西两庑、明伦堂、斋馆、号房、射圃等。明清两代，先后进行六十多次修缮、扩建，形成了规模宏大、而已完整的建筑群。根据清乾隆六十年（公元1795年）绘制的一幅《如皋学宫图》可以看到当时文庙恢宏的气势和精妙的布局。
大成殿脊高13米，上盖九脊单檐，面阔五间共13米，进深三间九檩12米。前有回廊、月台，四周绕以青石雕栏。雕栏的莲花纹饰，雕刻正中为主建筑大成殿。殿东、西两厢为东庑、西庑，是供奉先贤、先儒的地方。大成殿前是戟门，门前立戟，以示庄严。戟门东是名宦祠，以纪念如皋历史上功绩卓著的官员。门西是乡贤祠，纪念历史上如皋籍有名望的人士。乡贤祠西为教谕署，教谕署北为训导署。戟门前是棂星门，门两侧分别竖立“文官下轿”、“武官下马”的石碑。棂星门东为儒学门，内建奎光楼，专供藏书之用。奎光楼北有敬一亭、忠孝祠。文庙大门东侧竖立崇正学牌坊，西侧竖立育真才牌坊。牌坊外侧分别是东云路巷和西云路巷。每条巷的两端建有牌楼。文庙大门前凿有泮池，池东架文定桥，池西架武定桥。池北设石栏，池南是屏墙，墙外为射圃。大成殿后是明伦堂，堂名乃“太学明人伦之所在”之意。
明伦堂东是居仁斋（又名经义斋），西是由义斋（又名治事斋）。明伦堂后是尊经阁，始建于明万历四十八年（公元1620年）。尊经阁后面是崇圣祠，祠内祀孔子的先人。尊经阁西是遗爱祠，遗爱祠后面是土地祠。学宫四周围以宫墙，周长194.6丈，整个文庙建筑，有殿，有堂，有藏书之楼，有栖士之舍。圆桥璧水，龙游玉带，蜿蜒回绕；宫墙内外，严翼森峨。其构思之巧妙，结构之严整，设置之完善，规模之恢宏，名甲江淮。
由于历史的变迁，如皋文庙由昔日的鼎盛渐趋衰微。1930年以后，如皋文庙改建为县立实验小学。解放后，更名为江苏省如皋师范附属小学。原来的文庙仅存一座大成殿。
