Chùa Xá Lợi được khởi công xây dựng vào ngày 5 tháng 8 năm 1956, trên thửa đất diện tích hơn 2500 m2, được nhượng lại của câu lạc bộ Đông Dương với giá tượng trưng là một đồng bạc Việt Nam. Khu đất tọa lạc tại góc đường Lê Văn Thạnh (nay là Sư Thiện Chiếu) và Bà Huyện Thanh Quan. Công trình kiến trúc theo bản vẽ của hai kiến trúc sư Trần Văn Đường và Đỗ Bá Vinh, công trường xây dựng được điều khiển bởi hai kỹ sư Dư Ngọc An và Hồ Tố Thuận. Chùa được hoàn thành ngày 2 tháng 5 năm 1958.
Đây là một ngôi chùa có kiến trúc theo lối mới, là ngôi chùa lầu đầu tiên của thành phố, mở đầu cho lối kiến trúc trên bái đường, dưới giảng đường ở Việt Nam. Các hạng mục của chùa gồm có: 1- Chính điện thờ Phật, 2- Giảng đường, 3- Tháp chuông 7 tầng, 4- Thư viện – phòng đọc sách, 5- Cổng tam quan, 6- Khu tăng phòng, 7- Nhà trai đường, 8- Văn phòng ban Quản trị, 9- Đoàn quán Gia đình Phật tử, 10- Phòng phát hành kinh sách, 11- Nhà khách tăng, 12- Khu trù phòng-cư sĩ, 13- Vãng sanh quán, 14- Các vườn cảnh.
Chùa Xá Lợi có những đặc điểm tự hào là di sản văn hóa quý báo như sau:
1/ Phật bảo : là một tháp bằng vàng, trong đựng báu vật là ngọc xá lợi Phật tổ, do ngài Narada Mahathera, một danh Tăng Phật giáo Tích Lan đã mang sang tặng để làm chứng tích Phật bảo thường trụ tại nơi quốc độ Việt Nam
2/ Pháp bảo : có một pho kinh bối diệp cổ chép bằng chữ Pali trên lá Ô bôi (lá Muôn) cách nay trên 1.000 năm, dài 45 cm, ngang 6 cm, hai đầu có dùi lổ để xỏ chỉ xâu lại, bìa bằng gỗ sơn son thếp vàng hoa văn cầu kỳ, được bọc trong một khăn lụa ngũ sắc. Bộ kinh này do giáo hội Tăng già Tích Lan tặng cho ngài Thích Quảng Liên sau khi du học hơn 5 năm tại xứ này, khi về nước Ngài tặng lại cho hội Phật học Nam Việt để làm chứng tích Pháp bảo thường trụ tại quốc độ này. Bộ kinh chép lại lời ngọc đức Thế tôn khi Ngài bắt đầu chuyển pháp luân tại thành phố Ba La Nại (Bénarès) cho năm anh em Kiều Trần Như nghe.
3/ Tăng bảo : có một cây bồ đề được chiết cành từ cây gốc ở Tích Lan, do Thái tử con vua A Dục (Asoka) đem từ nơi đức Phật thành đạo sang trồng khi đến truyền bá đạo Phật ở xứ này.
4/Chùa có một tháp bạc trong đựng viên xá lợi của đức Hoạt Phật Chương Gia Đồ do Pháp sư Diễn Bồi từ Đài Loan mang sang tặng vào ngày 11. 12. 1960. Đức Hoạt Phật (Phật sống) người gốc Thanh Hải -Mông Cổ thường được người Trung Hoa biết dưới danh hiệu Thập Cửu Thế Chương Gia Đại sư. Theo lịch sử, Ngài đã tái sinh 3 lần ở Ấn Độ, 9 lần ở Tây Tạng và 7 lần ở Thanh Hải, cộng 19 đời, mỗi đời tái sinh được xác nhận bởi những bằng chứng hiển hiện như Đạt Lai Lạt Ma ở Tây Tạng.
5/Chùa thờ duy nhất một tượng Phật Thích Ca lớn, trong tư thế ngồi kiết già trên tòa sen
Chùa có 1 khỏang sân nhỏ, không rộng lắm,nhưng có những hàng ghế đá. Ghé đây bạn có thể tìm được 1 không gian yên tĩnh để đọc sách hay ôn bài. Đây cũng là 1 điểm khác của Xá Lợi với những chùa khác ở thành phố.