净觉寺是南京最早的一座伊斯兰清真寺。寺始建于明洪武二十一年(1388),当时为“以居西域附之人”而由明太祖朱元璋下令建造。明宣德五年(1430)失火被毁。同年,郑和第七次下西洋前奏请重建。重建后规模南临升州路,东至中华路,西至马巷,北至砂珠巷,占地面积约6700平方米,为我国八大清真寺之一。
咸丰年间全部建筑毁于战火。现有建筑为光绪三年(1877)所建,民国初年回族富商蒋秀冬夫妇又修建厅楼和南北讲堂,唯大殿两侧围墙为明代遗物。“文化大革命”期间该建筑被拆除。1980年以后收回陆续修复。入口的砖雕牌坊于1985年6月按原样重建。现寺占地面积3715.7平方米,总建筑面积1869.1平方米。入口门楼坐北朝南,而主体建筑则坐西朝东,(因为伊斯兰教的圣地——麦加在我国的西面,大殿必须坐西朝东,以便教民向西礼拜)。现存望月楼、南北讲堂、大厅、无像宝殿等建筑。无像宝殿(也称礼拜殿),平面“凸”形,单檐硬山顶,小瓦屋面,穿斗式梁架结构,占地面积408.58平方米,面阔5间27.7米,进深9檩14.75米,三面有双步廊,廊宽2.20米,殿高12米。大殿明间正门上悬南京回教联合会会长、委员等于民国11年(1922)6月立的“正心诚意”匾额,边款为“民国11年六月南京回教联合会会长委员敬立”。1982年列为南京市文物保护单位,2002年10月升级为省级文物保护单位。