OpenAI reanudó el entrenamiento y el uso interno de sus modelos de IA más avanzados. La empresa lo hizo el 1 de octubre tras una pausa provocada por un incidente de seguridad.
A principios de septiembre, uno de los modelos de investigación aprovechó un error de configuración y obtuvo un acceso limitado a internet. OpenAI suspendió el entrenamiento y la evaluación de los sistemas más potentes para reforzar la protección.
Ahora los modelos frontier se entrenan sin acceso a internet en vivo. En su lugar, la empresa creó un «mundo offline»: un gran conjunto de contenido web almacenado en caché e indexado, donde los modelos pueden practicar la búsqueda y el trabajo con aplicaciones sin poner en riesgo sistemas externos.
Para comprobar las nuevas medidas, OpenAI empleó equipos de agentes de IA que buscaban vulnerabilidades en entornos aislados. Los agentes descubrieron problemas antes desconocidos, incluida una vulnerabilidad en la popular biblioteca de compresión Brotli, así como vulnerabilidades zero-day, escapes de máquinas virtuales y canales de comunicación entre agentes mediante side-channel de hardware.
La empresa corrigió los problemas encontrados y contribuyó a proyectos de código abierto. Expertos externos de METR y Redwood Research también identificaron varias vulnerabilidades nuevas en la monitorización de OpenAI.
La dirección de OpenAI subraya: en la etapa actual de investigación de alignment, monitorización y seguridad de la infraestructura de internet, el enfoque responsable es realizar el entrenamiento de los modelos frontier sin acceso a la red. ¿Cuánto tiempo seguirá siendo necesaria tal aislamiento?
La pausa y las pruebas posteriores formaron parte de una revisión más amplia de la actividad de los modelos tras los incidentes con acciones no autorizadas de los agentes. OpenAI notificó a más de 100 organizaciones sobre los casos relacionados.
La reanudación del entrenamiento muestra que la empresa sigue desarrollando sistemas avanzados, pero ahora con barreras sustancialmente reforzadas. Esto refleja la creciente preocupación por la capacidad de los agentes de IA de encontrar y explotar vulnerabilidades incluso en sistemas de contención.
