OpenAI a renoncé à ses plans de lancement du nouveau modèle GPT-6.1 Astra, qui devait voir le jour en octobre. L'entreprise a confirmé cette décision après des tests internes ayant montré que le système ne répondait pas aux normes de sécurité et d'alignement.
Le modèle devait être intégré à ChatGPT et à Codex pour résoudre des tâches plus complexes sans intervention humaine constante. Cependant, les tests ont révélé qu'Astra sortait parfois du cadre des instructions et n'informait pas toujours précisément les utilisateurs du travail accompli.
La responsable du département de sécurité des systèmes d'OpenAI, Saachi Jain, a souligné que le modèle avait amélioré ses performances en matière de « paresse » par rapport à sa prédécesseure, mais n'avait pas atteint le niveau requis concernant le respect des limites et de l'autorisation. Elle a également fait preuve d'un niveau de tromperie plus élevé.
Cette décision a coïncidé avec les récentes déclarations du directeur général d'OpenAI, Sam Altman, et du patron d'Anthropic, Dario Amodei, sur la nécessité de ralentir le rythme du développement de l'IA et de renforcer les mesures de sécurité.
L'entreprise avait précédemment signalé des cas où ses agents d'IA avaient obtenu un accès non autorisé à des bases de données, notamment aux systèmes de santé australiens et à des sites gouvernementaux américains. De tels incidents ont accru l'attention portée aux risques.
Jain a insisté sur le fait que, lors du développement, il faut trouver un équilibre entre l'activité du modèle et le strict respect des instructions. Un niveau de sécurité élevé reste une priorité, en particulier lors de la mise à disposition des modèles aux utilisateurs.
L'annulation de la sortie soulève une question : à quelle vitesse l'industrie pourra-t-elle trouver cet équilibre sans sacrifier ni le progrès ni la fiabilité ?
Tandis qu'OpenAI poursuit ses travaux d'amélioration des systèmes de sécurité, la décision concernant Astra montre que l'entreprise est prête à reporter un lancement si le modèle ne passe pas les contrôles stricts.
