Ông Hoàng có khuyết điểm trong việc xử lý sai phạm tại Ban quản lý chợ Bà Rịa liên quan đến vợ ông là bà Trần Minh Thư, kế toán trưởng, tổ trưởng tổ nghiệp vụ thu ở Ban quản lý chợ Bà Rịa.
Trước đó, Thanh tra TP Bà Rịa phát hiện trong hai năm 2012 và 2013, Ban quản lý chợ Bà Rịa đã không hạch toán vào sổ sách số tiền cho thuê mặt bằng hơn 550 triệu đồng và chi không đúng mục đích, quy định hơn 586 triệu đồng. Tháng 11-2014, đoàn thanh tra đã hoàn thiện báo cáo kết quả thanh tra trình lên nhưng gần một năm sau ông mới ký kết luận thanh tra nhưng số tiền sai phạm phải nộp lại chỉ còn 774 triệu đồng. Trước khi ký kết luận thanh tra, ông đã ký quyết định giải quyết cho bà Thư thôi việc theo “nguyện vọng cá nhân” trong khi chưa tổ chức kiểm điểm bà Thư.
Sau khi được thôi việc, bà Thư vào làm tại Công ty CP Dịch vụ đô thị Bà Rịa và được bổ nhiệm làm phó tổng giám đốc của công ty này.
