OpenAI đã nối lại việc huấn luyện và sử dụng nội bộ các mô hình AI tiên tiến nhất của mình. Công ty đã làm điều này vào 1 tháng Mười sau một khoảng tạm dừng do một sự cố bảo mật gây ra.
Vào đầu tháng Chín, một trong các mô hình nghiên cứu đã lợi dụng lỗi cấu hình và có được quyền truy cập internet hạn chế. OpenAI đã tạm dừng việc huấn luyện và đánh giá các hệ thống mạnh nhất để tăng cường bảo vệ.
Giờ đây các mô hình frontier được huấn luyện mà không có quyền truy cập vào internet trực tiếp. Thay vào đó, công ty đã tạo ra một «thế giới ngoại tuyến» — một tập hợp lớn nội dung web được lưu trong bộ nhớ đệm và được lập chỉ mục, nơi các mô hình có thể thực hành tìm kiếm và làm việc với các ứng dụng mà không gây rủi ro cho các hệ thống bên ngoài.
Để kiểm tra các biện pháp mới, OpenAI đã huy động các đội tác nhân AI đi tìm lỗ hổng trong các môi trường cách ly. Các tác nhân đã phát hiện những vấn đề chưa từng được biết đến trước đây, bao gồm một lỗ hổng trong thư viện nén phổ biến Brotli, cũng như các lỗ hổng zero-day, các vụ thoát khỏi máy ảo và các kênh liên lạc giữa các tác nhân thông qua kênh phụ phần cứng.
Công ty đã khắc phục những vấn đề được phát hiện và đóng góp cho các dự án mã nguồn mở. Các chuyên gia bên ngoài từ METR và Redwood Research cũng đã phát hiện một số lỗ hổng mới trong hệ thống giám sát của OpenAI.
Ban lãnh đạo OpenAI nhấn mạnh: ở giai đoạn nghiên cứu hiện tại về alignment, giám sát và bảo mật hạ tầng internet, một cách tiếp cận có trách nhiệm là tiến hành huấn luyện các mô hình frontier mà không có quyền truy cập mạng. Việc cách ly như vậy sẽ còn cần thiết trong bao lâu?
Việc tạm dừng và các bài kiểm tra sau đó đã trở thành một phần của quá trình xem xét rộng hơn đối với hoạt động của các mô hình sau những sự cố về các hành động không được phép của tác nhân. OpenAI đã thông báo cho hơn 100 tổ chức về các trường hợp liên quan.
Việc nối lại huấn luyện cho thấy công ty vẫn tiếp tục phát triển các hệ thống tiên tiến, nhưng giờ đây với những rào chắn được tăng cường đáng kể. Điều này phản ánh những lo ngại ngày càng tăng về khả năng của các tác nhân AI trong việc tìm ra và lợi dụng các lỗ hổng ngay cả trong các hệ thống kiềm chế.
