Lãnh đạo các công ty phát triển những mô hình trí tuệ nhân tạo quyền năng nhất thế giới đã bất ngờ trở thành nhà đầu tư cho một startup chuyên về kiểm soát chính sản phẩm của họ. White Circle, một công ty của Pháp, vừa huy động được 11 triệu USD từ các giám đốc điều hành cấp cao của OpenAI, Anthropic và DeepMind nhằm cung cấp cho các doanh nghiệp công cụ giám sát và bảo vệ hệ thống AI. Bước đi này không chỉ đơn thuần là một đột phá công nghệ, mà còn là sự thừa nhận rằng ngay cả những người tạo ra các mô hình tiên tiến nhất cũng không chắc chắn có thể tự mình kiểm soát mọi rủi ro khi chúng được triển khai đại trà.
White Circle đang phát triển một nền tảng có khả năng theo dõi hành vi của AI theo thời gian thực ngay trong hạ tầng nội bộ của doanh nghiệp. Hệ thống này sẽ ghi lại những sai lệch, các nguy cơ rò rỉ dữ liệu tiềm ẩn và nỗ lực vượt qua các rào cản thiết lập sẵn của mô hình. Khác với những giải pháp an ninh mạng truyền thống, trọng tâm của nền tảng này nằm chính ở logic vận hành của mạng thần kinh — từ khâu tạo câu trả lời cho đến việc tương tác với cơ sở dữ liệu nội bộ. Các nhà đầu tư, vốn là những người tiếp xúc với các mô hình này hàng ngày, xem dự án này là giải pháp để giảm thiểu rủi ro pháp lý và uy tín cho khách hàng.
Nguồn vốn đầu tư không đến từ các quỹ mạo hiểm truyền thống mà trực tiếp từ những nhân vật quyền lực nhất trong ngành. Điều này làm thay đổi bức tranh quen thuộc: thông thường, các startup bảo mật sẽ nhận vốn từ các nhà đầu tư công nghệ chung. Tại đây, tiền lại đến từ chính những người có khả năng phải chịu trách nhiệm cho những vấn đề mà White Circle hứa hẹn sẽ giải quyết. Động thái này cho thấy nhu cầu ngày càng tăng đối với việc kiểm soát độc lập, khi chính các nhà phát triển mô hình nhận thấy giới hạn chuyên môn của mình trong quá trình vận hành thực tế.
Đối với các doanh nghiệp, điều này báo hiệu sự xuất hiện của một tầng trách nhiệm mới. Các công ty tích hợp AI vào quy trình ra quyết định giờ đây không chỉ phải lưu tâm đến độ chính xác của kết quả, mà còn phải tính đến khả năng xảy ra những hành vi không thể dự đoán của mô hình. White Circle cung cấp các công cụ cho phép ghi nhận những sự cố đó và xây dựng báo cáo phục vụ các cơ quan quản lý. Trong bối cảnh luật pháp tại châu Âu và Mỹ ngày càng khắt khe, việc giám sát như vậy có thể trở thành một phần thiết yếu trong hạ tầng của mọi tập đoàn.
Tình thế này gợi nhắc lại lịch sử ngành công nghiệp ô tô đầu thế kỷ 20: các nhà sản xuất ban đầu bán xe không có dây an toàn, nhưng sau đó chính họ lại đầu tư vào các tiêu chuẩn và hệ thống giúp hạn chế các rủi ro do chính phương tiện đó gây ra. Tương tự như vậy, những người đang thúc đẩy sự lan tỏa của AI cũng đang đồng thời xây dựng các cơ chế để kìm hãm nó. Đây không phải là một sự mâu thuẫn, mà là phản ứng tự nhiên trước quy mô của các hệ quả tiềm tàng, khi một sai sót nhỏ của mô hình có thể ảnh hưởng đến hàng nghìn người dùng hoặc hàng triệu giao dịch.
