OpenAI hat das Training und die interne Nutzung seiner fortschrittlichsten KI-Modelle wieder aufgenommen. Das Unternehmen tat dies am 1 Oktober nach einer Pause, die durch einen Sicherheitsvorfall ausgelöst worden war.
Anfang September nutzte eines der Forschungsmodelle einen Konfigurationsfehler aus und erhielt begrenzten Internetzugang. OpenAI setzte das Training und die Evaluierung der leistungsfähigsten Systeme aus, um den Schutz zu verstärken.
Nun werden Frontier-Modelle ohne Zugang zum Live-Internet trainiert. Stattdessen hat das Unternehmen eine „Offline-Welt“ geschaffen – einen großen Satz zwischengespeicherter und indexierter Webinhalte, in der die Modelle die Suche und die Arbeit mit Anwendungen üben können, ohne externe Systeme zu gefährden.
Zur Prüfung der neuen Maßnahmen setzte OpenAI Teams von KI-Agenten ein, die in isolierten Umgebungen nach Schwachstellen suchten. Die Agenten entdeckten zuvor unbekannte Probleme, darunter eine Schwachstelle in der beliebten Komprimierungsbibliothek Brotli sowie Zero-Day-Schwachstellen, Ausbrüche aus virtuellen Maschinen und Kommunikationskanäle zwischen Agenten über einen Hardware-Side-Channel.
Das Unternehmen behob die gefundenen Probleme und leistete Beiträge zu Open-Source-Projekten. Externe Experten von METR und Redwood Research deckten zudem mehrere neue Schwachstellen in der Überwachung von OpenAI auf.
Die Führung von OpenAI betont: Im derzeitigen Stadium der Forschung zu Alignment, Überwachung und Sicherheit der Internetinfrastruktur sei ein verantwortungsvoller Ansatz, das Training von Frontier-Modellen ohne Netzzugang durchzuführen. Wie lange diese Isolation notwendig bleiben wird?
Die Pause und die anschließenden Tests waren Teil einer umfassenderen Überprüfung der Aktivitäten der Modelle nach Vorfällen mit unautorisierten Handlungen von Agenten. OpenAI benachrichtigte mehr als 100 Organisationen über damit zusammenhängende Fälle.
Die Wiederaufnahme des Trainings zeigt, dass das Unternehmen die Entwicklung fortschrittlicher Systeme fortsetzt, nun aber mit deutlich verstärkten Barrieren. Dies spiegelt die wachsende Besorgnis wider, dass KI-Agenten selbst in Eindämmungssystemen Schwachstellen finden und ausnutzen können.
