夫子庙建于景祐元年（1034年），就东晋学宫扩建而成。这一组具有东方建筑特色、规模宏大的古建筑群迭经沧桑，几番兴废，清同治八年（1869年）重建后，又在日军侵入时遭破坏。解放后党和人民政府重视保护历史文物，将其列为市级文物保护单位。市政府连年拨款，精心维修，使之成为秦淮河畔的标志性建筑。

夫子庙的建筑富有明清色彩。它以大成殿为中心，从照壁至卫山南北成一条中轴线，左右建筑对称配列，占地广约26300平方米。四周围以高墙，配以门坊、角楼。秦淮河南岸的照壁，建于明万历三年（1575年），高大雄伟，全长110米，为全国照壁之最。与全国各地孔庙显著不同的，它以秦淮河自然河流为泮池。池之北岸石栏则是明正德九年（1514年）所建。

大成门内为中心庙院，院内植有银杏八棵，古灯对称有致，中间一条笔直的石砌甬道通向大成殿前的丹墀，此丹墀是祭孔时举行乐舞的地方，正中竖立一尊青铜孔子塑像，高4.18米、重2500公斤，是全国最大的孔子青铜像。两旁石阶有每尊高1.80米的孔子弟子颜回、子路等十二贤人汉白玉塑像分班侍立。