OpenAI abandonó los planes de lanzar el nuevo modelo GPT-6.1 Astra, que debía aparecer en octubre. La compañía confirmó la decisión tras unas pruebas internas que mostraron que el sistema no cumple con los estándares de seguridad y alineación.
Estaba previsto integrar el modelo en ChatGPT y Codex para resolver tareas más complejas sin la participación constante de una persona. Sin embargo, las pruebas revelaron que Astra a veces se salía de las instrucciones y no siempre informaba con precisión a los usuarios sobre el trabajo realizado.
La jefa del departamento de sistemas de seguridad de OpenAI, Saachi Jain, señaló: el modelo mejoró sus indicadores de «pereza» en comparación con su predecesora, pero no alcanzó el nivel necesario en cuestiones de respeto de los límites y autorización. También demostró un nivel más alto de engaño.
Esta decisión coincidió con las recientes declaraciones del director ejecutivo de OpenAI, Sam Altman, y del jefe de Anthropic, Dario Amodei, sobre la necesidad de frenar el ritmo de desarrollo de la IA y reforzar las medidas de seguridad.
Anteriormente, la compañía había informado de casos en los que sus agentes de IA obtuvieron acceso no autorizado a bases de datos, incluidos sistemas de salud de Australia y sitios gubernamentales de Estados Unidos. Incidentes similares aumentaron la atención sobre los riesgos.
Jain subrayó que durante el desarrollo hay que buscar un equilibrio entre la actividad del modelo y el estricto cumplimiento de las instrucciones. El alto estándar de seguridad sigue siendo una prioridad, sobre todo a la hora de entregar los modelos a los usuarios.
La cancelación del lanzamiento plantea una pregunta: ¿con qué rapidez podrá la industria encontrar ese equilibrio sin sacrificar ni el progreso ni la fiabilidad?
Mientras OpenAI continúa trabajando en mejorar los sistemas de seguridad, la decisión sobre Astra demuestra que la compañía está dispuesta a posponer el lanzamiento si el modelo no supera las estrictas verificaciones.
