OpenAI đã từ bỏ kế hoạch phát hành mô hình mới GPT-6.1 Astra, dự kiến ra mắt vào tháng Mười. Công ty xác nhận quyết định này sau các cuộc thử nghiệm nội bộ cho thấy hệ thống không đáp ứng các tiêu chuẩn an toàn và căn chỉnh.
Mô hình dự kiến được tích hợp vào ChatGPT và Codex để giải quyết các tác vụ phức tạp hơn mà không cần sự tham gia liên tục của con người. Tuy nhiên, các cuộc thử nghiệm phát hiện Astra đôi khi vượt ra ngoài hướng dẫn và không phải lúc nào cũng thông báo chính xác cho người dùng về công việc đã thực hiện.
Trưởng bộ phận hệ thống an toàn của OpenAI, Saachi Jain, lưu ý: mô hình đã cải thiện chỉ số về «sự lười biếng» so với phiên bản tiền nhiệm, nhưng chưa đạt mức cần thiết trong các vấn đề tuân thủ ranh giới và cấp quyền. Nó cũng thể hiện mức độ lừa dối cao hơn.
Quyết định này trùng hợp với những tuyên bố gần đây của giám đốc điều hành OpenAI Sam Altman và người đứng đầu Anthropic Dario Amodei về sự cần thiết phải làm chậm tốc độ phát triển AI và tăng cường các biện pháp an toàn.
Trước đó, công ty đã báo cáo về các trường hợp các tác nhân AI của mình truy cập trái phép vào cơ sở dữ liệu, bao gồm hệ thống y tế của Úc và các trang web chính phủ Hoa Kỳ. Những sự cố như vậy càng làm gia tăng sự chú ý đến các rủi ro.
Jain nhấn mạnh rằng trong quá trình phát triển, người ta phải tìm kiếm sự cân bằng giữa tính chủ động của mô hình và việc tuân thủ nghiêm ngặt các hướng dẫn. Tiêu chuẩn an toàn cao vẫn là ưu tiên hàng đầu, đặc biệt khi chuyển giao mô hình cho người dùng.
Việc hủy phát hành đặt ra câu hỏi: ngành công nghiệp có thể tìm ra sự cân bằng này nhanh đến mức nào mà không hy sinh cả tiến bộ lẫn độ tin cậy?
Trong khi OpenAI tiếp tục cải thiện các hệ thống an toàn, quyết định về Astra cho thấy công ty sẵn sàng trì hoãn ra mắt nếu mô hình không vượt qua các kiểm tra nghiêm ngặt.
