Trước chùa có Bảo tháp Xá Lợi hình lục giác, tầng bảy tháp thờ Xá Lợi Phật
Chùa được Bộ Văn hóa (nay là Bộ Văn hóa - Thông tin) công nhận là di tích lịch sử - văn hóa quốc gia theo Quyết định số 1288 - VH/QĐ ngày 16 tháng 11 năm 1988
Sân chùa có tượng Quan Thế Âm Bồ Tát dưới bóng cây bồ đề do Đại đức Narada mang từ Sri Lanka (Tích Lan) sang trồng năm 1953
Chùa do cư sĩ Lý Thụy Long, người Minh Hương, quyên tiền xây dựng vào mùa xuân năm Giáp Tý (1744) đời chúa Nguyễn Phúc Khoát. Chùa có khuôn viên khá rộng, nhiều cây xanh thoáng mát, dù ngày thường vẫn có rất đông người đến viếng
Từ năm 1744 đến năm 1774, chưa rõ vị tăng sĩ nào trụ trì vì thiếu tài liệu ghi chép lại. Chỉ biết vào năm 1774, Thiền sư Phật Ý - Linh Nhạc (trụ trì chùa Từ Ân) đã cử đệ tử của mình là Thiền sư Tổ Tông - Viên Quang (gọi tắt là Viên Quang) về trụ trì chùa, đồng thời đổi tên là chùa Giác Lâm
Từ khi xây dựng đến nay chùa đã được trùng tu ba lần vào những năm 1798 - 1804; 1906 - 1909 và đầu năm 1999.
Chùa Giác Lâm được xây dựng theo kiểu kiến trúc chữ Tam, gồm ba lớp chính: chính diện, giảng đường và tăng xá; chính diện với kiểu nhà dân gian truyền thống một gian hai chái, bốn cột chính, chùa nguyên thủy không có cổng tam quan, mái chùa gồm bốn vạt và các sống mái đều thẳng
Bên trong điện khá rộng và sâu, có 56 cột to hơn vòng tay ôm màu nâu sẫm. Cột nào cũng được chạm khắc câu đối, thiếp vàng công phu. Giữa các hàng cột là các cửa võng, cũng được thiếp vàng, chạm trổ các đề tài trang trí truyền thống như tứ linh, tứ quý, hoa điểu....Phía sau chính điện là bàn thờ tổ, thờ chư vị tổ sư hòa thượng tiền bối đã trụ trì tại chùa Giác Lâm
Đối diện với bàn thờ tổ là các bàn thờ: Phật Chuẩn Đề, Phật A Di Đà và sau cùng là bàn thờ Thập Điện Diêm Vương. Ở gian này, trong thời kỳ kháng chiến chống Pháp và chống Mỹ, được dùng làm cơ sở hậu cần, nuôi chứa cán bộ, làm công tác trinh sát nội thành
Đặc biệt chùa có hai bộ tượng quý là Thập bát La Hán và hai bộ tượng Thập điện Diêm Vương
Bên trong chùa còn 113 ngôi tượng cổ, chủ yếu là tượng gỗ, các cột chính của chùa đều có khắc câu đối, chữ thếp vàng, khung viền được chạm trổ công phu các loại hoa mai, hoa cúc
Giảng đường được nối với nhà Trai thông qua một sân Thiên Tĩnh có tác dụng lấy ánh sáng cho ngôi chùa. Ngôi chùa được rất nhiều Phật tử thường xuyên đến thăm quan, chăm sóc, là một trong những công trình kiến trúc đặc sắc của TP.