第二次鸦片战争后，法国政府依据不平等的《天津条约》，1861年1月25日强迫清政府将战争中被摧毁的原两广总督部堂衙门60多亩地租给其兴建教堂。稽明章（Cnllemin）主教负责筹建，由法国Vonutrin和Hnmbert两建筑师吸收巴黎圣母院建筑精华进行设计，广东揭西人蔡孝石匠任“总管工”。所用花岗岩石材采凿于新安县牛头角及长湾两地（今九龙）。1863年12月8日奠基。1888年竣工，历时25年，耗资40万金法郎。大教堂东西宽35米、南北深78.69米，建筑面积2754平方米，南立面有双塔，高58.5米，分三层，第三层为钟楼，东塔安装4具铜钟、西塔安装机械时钟。附属建筑有医院、神学院、学校等。1935年把塔内铁梯和屋面改为钢筋混凝土。1949年10月14日，国民党广州驻军撤退时炸毁海珠桥，教堂的彩色玻璃多被震坏，“文化大革命”期间，教堂内的神龛及宗教故事的彩色玻璃画全毁，1979年进行修缮。