Chùa được xây khang trang bắt đầu từ thời Đệ Nhị Tổ Pháp Loa. Sách xưa ghi lại: Chùa Hoa Yên ngoài tiền đường, thượng điện để thờ Phật, tả hữu còn có viện Phù Đồ, có lầu trống, lầu chuông, nhà dưỡng tăng, nhà khách nghỉ... tạo thành một quần thể kiến trúc to lớn. Cả ba vị Tổ Trúc Lâm đều đã trụ trị tại chùa này.
Trước khi chùa được tôn tạo như ngày nay, chùa có kiến trúc kiểu chữ “đinh” với 5 gian tiền đường và hậu cung xây vào thời Nguyễn. Nhìn theo thế núi, chùa Hoa Yên tọa lạc nơi đầu rồng, núi nhô ra như trán, mũi, hàm rồng. Đôi mắt rồng ở ngôi Tháp Tổ, hai dãy núi Tây, Đông vươn về Nam ôm lấy con đường hành hương dưới chân núi Giải Oan như đôi cánh tay rồng.
Xét về mặt tâm linh, chùa Hoa Yên là nơi giao hội của trục linh (trục tung) và trục tú (trục hoành), hai bên tả hữu vươn ra như hai tay ngai (tả long thanh, hữu bạch hổ) theo luật phong thủy, đây là vị trí đất quý hiếm.
Ngoài những tượng, bia, tháp cổ, chùa Hoa Yên còn lưu lại những di vật quý giá: gạch hoa cúc, ngói mũi hài kép thời Trần, những bức phù điêu chạm trên đá hình sư tử, đầu rồng, bệ tượng tam thế, chậu hoa, tay vịn tầng bậc, đá trang trí kiến trúc (khối chạm rồng cuộn, khối chạm nghê).
Các hiện vật có công năng và niên đại khác nhau. Đầu rồng có niên đại sớm hơn cả - khoảng cuối thế kỷ XII, chiếc tay vịn thành bậc chạm sóc mang phong cách nghệ thuật Lê Sơ - thế kỷ XV. Các hiện vật còn lại đều mang dấu ấn nghệ thuật thời Lê Trung Hưng - thế kỷ XVII cùng những bát hương đá, độc bình, các đồ sành sứ... lưu lại dấu ấn vàng son của một thời đã qua, của bao thời đại kế tiếp tôn dựng chùa Hoa Yên - ngôi chùa trung tâm, chùa Cả của Khu di tích Yên Tử. Tại chùa có quả chuông được đúc vào thời Minh Mệnh thứ 14 ghi lại bài Minh do ngài Diên Chính Nguyễn Siêu Phàm soạn, ngợi ca Thượng hoàng Trần Nhân Tông và Yên Tử Sơn.
Ấn tượng nhất là 3 cây đại trên 700 tuổi, gốc to lớn sần sùi, cành đan vào nhau khỏe khoắn, từ tán lá nở bung những chùm hoa trắng làm tô thắm cảnh chùa.
Cuối năm 2002 chùa Hoa Yên được tôn tạo lại, cấu trúc gần giống hình chữ “quốc” kiểu chùa gọi là “nội công ngoại quốc”, có nghĩa là trong hình có chữ “công” còn bên ngoài có khung bao quanh như chữ “quốc”. Chùa gồm tòa tam bảo (chính điện) nhà thờ Tổ, hành lang tả hữu kiêm lầu trống, lầu chuông. Cột bằng gỗ lim lõi, lợp ngói mũi hài kép, các họa tiết, điêu khắc đều mang đặc trưng thời Trần, tượng pháp đều bằng đồng.
Trước tòa tam bảo (chính điện) là lầu hương bằng đồng. Toàn bộ tượng pháp, lầu hương, cửa võng đều do thập phương công đức. Phía sau chùa Hoa Yên là chùa Phổ Đà Quan Âm Bồ tát, nay chỉ là phế tích. Cạnh chùa có 6 ngọn tháp còn khá nguyên vẹn. Ở phía trên chùa không xa, dưới tán của 4 cây tùng cổ là tháp độ nhân Mỹ Lệ. Tháp được xây bằng gạch tráng men xanh, kiến trúc nguyên gốc đời Trần.
Chùa Hoa Yên cùng với toàn bộ hệ thống chùa Yên Tử nằm hài hòa giữa thiên nhiên hùng vĩ là một dẫn chứng rõ nét về sự dung hợp hai quan niệm đạo và đời của dân tộc ta.