Ngày 7 tháng 10 năm 1877, Giám mục Isidore Colombert đặt viên đá đầu tiên trước mặt Phó soái Nam Kỳ và đông đủ nhân vật cấp cao thời ấy. Nhà thờ được xây dựng trong 3 năm. Lễ Phục sinh, ngày 11 tháng 4 năm 1880, nghi thức cung hiến và khánh thành do cố đạo Colombert tổ chức trọng thể với sự có mặt của Thống đốc Nam Kỳ Le Myre de Vilers. Hiện nay, trên bệ phía trên, bên trong cửa ra vào nhà thờ, có chiếc bảng cẩm thạch gắn trong hành lang (transept) ghi ngày khởi công, ngày khánh thành và tên vị công trình sư. Tất cả mọi chi phí xây dựng, trang trí nội thất đều do Soái phủ Nam Kỳ đài thọ, với số tiền 2.500.000 franc Pháp theo tỷ giá thời bấy giờ. Ban đầu, nhà thờ có tên gọi là Nhà thờ Nhà nước vì nó do nhà nước Pháp bỏ tiền xây dựng và quản lý.
Năm 1895, nhà thờ xây thêm hai tháp chuông, mỗi tháp cao 57,6 m và có 6 chuông đồng lớn nặng 28,85 tấn. Trên đỉnh tháp có đính một cây thánh giá cao 3,50 m, ngang 2 m, nặng 600 kg. Tổng thể chiều cao từ mặt đất lên đỉnh thánh giá là 60,50 m.
Có tất cả 6 chuông lớn (sol: 8.785 kg, la: 5.931 kg, si: 4.184 kg, đô: 4.315 kg, rê: 2.194, mi: 1.646 kg), gồm sáu âm, nặng tổng cộng 28,85 tấn, đặt dưới hai lầu chuông. Bộ chuông này được chế tạo tại Pháp và mang qua Sài Gòn năm 1879. Trên tháp bên phải treo 4 quả chuông (sol, đô, rê, mi); tháp bên trái treo 2 chuông (la, si). Trên mặt mỗi quả chuông đều có các họa tiết rất tinh xảo. Tổng trọng lượng bộ chuông là 27.055 kg tức khoảng 27 tấn, nếu tính luôn hệ thống đối trọng (1.840 kg) được gắn trên mỗi quả chuông thì tổng trọng lượng của bộ chuông sẽ là 28.895 kg.
