Một công ty đã tốn 500 triệu đô la vì quên thiết lập giới hạn sử dụng AI

Theo Axios, một doanh nghiệp được cho là đã tiêu tốn khoảng 500 triệu USD chỉ trong một tháng khi sử dụng Claude, mô hình AI của Anthropic, do không thiết lập giới hạn sử dụng cho nhân viên. Hàng ngàn nhân viên đã liên tục chạy các tác vụ phức tạp bằng AI, khiến chi phí tăng vọt ngoài tầm kiểm soát.

Sự việc này đang làm dấy lên những tranh luận mới về bài toán chi phí khi doanh nghiệp triển khai AI trên quy mô lớn. Trong giai đoạn đầu, nhiều công ty xem AI là công cụ giúp tiết kiệm nhân sự, tự động hóa công việc và nâng cao hiệu suất. Tuy nhiên, khi số lượng người dùng tăng mạnh cùng với nhu cầu xử lý ngày càng phức tạp, chi phí sử dụng AI cũng ngày càng tăng theo.

Ngày càng nhiều lãnh đạo doanh nghiệp tại Mỹ bắt đầu đánh giá lại tỷ suất lợi nhuận từ các khoản đầu tư AI. Không ít công ty nhận thấy chi phí vận hành đang tăng nhanh hơn mức cải thiện năng suất mà công nghệ này mang lại.

Một số doanh nghiệp thậm chí đã phải thu hẹp phạm vi sử dụng hoặc siết chặt quyền truy cập đối với các công cụ AI nhằm kiểm soát ngân sách.

Xu hướng này cũng xuất hiện tại các tập đoàn công nghệ lớn. Microsoft được cho là đã giảm bớt việc sử dụng Claude trong nội bộ sau khi từng khuyến khích nhân viên ứng dụng AI vào công việc. Trong khi đó, Uber cũng thừa nhận chi phí AI ngày càng khó biện minh nếu hiệu quả thực tế không theo kịp mức đầu tư.

Một nghịch lý đang xuất hiện trên thị trường là dù chi phí xử lý của các mô hình AI ngày càng giảm nhờ những cải tiến kỹ thuật, nhưng tổng chi tiêu của doanh nghiệp vẫn tiếp tục tăng.

Nguyên nhân nằm ở việc tần suất sử dụng AI tăng nhanh hơn nhiều so với tốc độ giảm giá. Các hệ thống AI thế hệ mới, đặc biệt là AI tác nhân có khả năng tự thực hiện nhiều bước công việc liên tiếp, tiêu thụ lượng tài nguyên tính toán lớn hơn đáng kể so với chatbot truyền thống.

Ở phía hạ tầng, cuộc đua đầu tư vẫn chưa có dấu hiệu hạ nhiệt. TrendForce dự báo tổng chi tiêu vốn của chín nhà cung cấp dịch vụ đám mây lớn nhất thế giới có thể đạt khoảng 830 tỉ USD trong năm 2026, phần lớn được dành cho trung tâm dữ liệu, GPU và các hệ thống phục vụ AI.

Nhu cầu khổng lồ này đang tạo động lực cho các nhà cung cấp hạ tầng. Mới đây, Hewlett Packard Enterprise ghi nhận kết quả kinh doanh khả quan nhờ nhu cầu máy chủ AI tăng mạnh. Trong khi đó, nhiều công ty điện toán đám mây cũng liên tục mở rộng trung tâm dữ liệu để đáp ứng làn sóng triển khai AI của doanh nghiệp.

Giới phân tích cho rằng AI vẫn sẽ là công nghệ trọng tâm trong chiến lược chuyển đổi của doanh nghiệp những năm tới. Tuy nhiên, giai đoạn tăng trưởng bằng mọi giá dường như đang nhường chỗ cho cách tiếp cận thực tế hơn, nơi các công ty không chỉ quan tâm AI có thể làm được gì, mà còn phải tính toán kỹ chi phí bỏ ra để đạt được những kết quả đó.

Trong bối cảnh ngân sách công nghệ ngày càng chịu áp lực, câu hỏi lớn với doanh nghiệp hiện nay không còn là có nên triển khai AI hay không, mà là làm thế nào để khai thác công nghệ này hiệu quả mà không khiến chi phí vượt khỏi tầm kiểm soát.