Miếu có diện tích khoảng 550 m2 và được xây gần như bao trùm trên một cồn đất nhỏ hình bàn chân có diện tích khoảng 2.500 m2 nổi giữa sông Vàm Thuật.
Do địa thế đặc biệt giữa lòng sông nên người dân gọi là Miếu Nổi. Để sang được miếu, khách phải đi đò với giá 10.000 đồng/chuyến.
Điểm ấn tượng đối với những người từng đến với miếu không chỉ vì địa thế mà việc hình ảnh những con rồng được trạm trổ công phu từ cổng vào bên trong miếu.
Theo truyền thuyết, vào thế kỷ 18, một người đàn ông chài lưới trên đoạn sông này đã lưới phải một xác chết phụ nữ, ông đã đem chôn lên cù lao rồi lập một miếu nhỏ để thờ oan hồn.
Ban đầu là một miếu nhỏ bằng tre và lá dừa, do các nhà buôn đường thủy cùng các bô lão trong vùng dựng thành, thờ Ngũ Hành, Long Mẫu để cầu mong được thuận buồm xuôi gió, thượng lộ bình an.
Trước năm 1975, miếu là một điểm hành hương nổi tiếng của người dân Sài Gòn - Gia Định. Sau năm 1975, miếu gần như bị bỏ hoang. Năm 1992, một người tên Sáu Hòa đứng ra vận động sửa sang và khôi phục lại mọi hoạt động. Ông Lục Câu, Trưởng ban quản lý miếu ngày nay đã tự tay phác thảo và thực hiện tu sửa, đắp lại các hình tượng tại miếu.
Hơn 100 con rồng lớn nhỏ với nhiều tư thế khác nhau trong khuôn viên miếu.
Đến nay, sau nhiều lần trùng tu, Phù Châu miếu đã trở thành một ngôi miếu khang trang, kiến trúc đặc sắc mang đậm nét văn hóa Việt - Hoa.
Mặt tiền miếu quay về hướng Nam, được cất theo kiểu chữ tam, gồm ba tòa nhà nối liền nhau bởi hai sân thiên tỉnh hẹp có lợp mái. Mái lợp ngói âm dương tráng men xanh ngọc, gồm hai tầng chồng khít lên nhau.
Trên nóc mỗi tòa nhà đều trang trí rồng chầu hạt ngọc, rồng chầu tháp cửu phẩm, rồng chầu cuốn thư. Trên bốn đầu đao cong lên có gắn hình tượng Long, Ly, Quy, Phụng và các họa tiết: hoa cúc dây, lá nho, sông nước...
Toàn bộ kiến trúc trong miếu được trang trí tinh xảo, đắp nổi hình rồng, phượng và cẩn sứ, các mái vòm cũng được cẩn sứ và ghép hình tỉ mỉ.
Khu trung tâm thờ tự của miếu chia làm ba phần: tiền điện, trung điện và chính điện. Tiền điện: chính giữa thờ Phật Di Lặc, hai bên thờ Phật Tổ Như Lai và Địa Mẫu. Phía trước là Quan âm Chuẩn Đề ngồi trên tòa sen với 18 cánh tay đang cầm pháp khí. Dọc bên tường treo hai bức phù diêu Thập Bát La Hán.
Trung điện: chính giữa thờ Tề Thiên Đại Thánh. Xung quanh là bao lam bằng gỗ chạm lọng theo mô típ: tiên nữ dâng đào với bốn chữ khắc: "Thánh Gia bảo điện"; Nối liền trung và chính điện là một sân thiên tỉnh hẹp có đặt hai lư hương to cẩn sành nhiều màu.
Chính điện: chính giữa thờ Ngũ Hành Thánh Mẫu, bên trong đặt năm lọ tượng gỗ thờ Kim, Thủy, Hỏa, Thổ, Mộc. Trước điện kê bàn hương án, thờ Bà Chúa Xứ Châu Đốc và Cửu Huyền. Bao xung quanh điện thờ là bao lam bằng gỗ chạm long với chủ đề: tứ linh, mai lan cúc trúc; phía trên có hàng chữ: "Hành Thánh Mẫu bảo điện"; bên phải chính điện thờ Quan Công, bên trái thờ Bao Công. Đối diện điện thờ Ngũ Hành Thánh Mẫu là điện thờ bà Kim Mẫu, Địa Mẫu, Long Thần, Hộ pháp. Trên tường trang trí những bức phù điêu màu sắc rực rỡ hình tùng hạc, Phật Di Lặc.
Phần mái của miếu cũng chạm trổ tinh xảo với hàng trăm ngàn mảnh sứ tạo hình rồng, chim, mây núi...
Trong miếu có 8 cây cột đều đắp rồng uốn lượn rất sinh động, đẹp mắt.
Năm 2010, Phù Châu Miếu được công nhận là Di tích kiến trúc nghệ thuật cấp thành phố và hiện là một trong số ít những ngôi miếu còn giữ được nét hoang sơ của Sài Gòn xưa.
Trước năm 1975, nơi đây tổ chức lễ hội vào ngày mồng một, ngày rằm (âm lịch) và ngày vía của các vị thần miếu, rất đông khách thập phương đến cúng lễ. Ngày nay chỉ tổ chức vào rằm tháng Giêng, tháng Hai và tháng Bảy.
Hằng ngày người dân từ khắp nơi vẫn tìm về Miếu Nổi để thắp hương cầu an, phóng sinh chim cá...
