Das von Anthropic entwickelte KI-Modell Mythos hat im Zuge einer Testübung Schwachstellen in hochsensiblen und als geheim eingestuften Computersystemen der US-Regierung aufgedeckt. Laut US-Beamten benötigte der Algorithmus lediglich wenige Stunden, um diese Sicherheitslücken zu identifizieren – ein Prozess, der unter normalen Umständen gewöhnlich Wochen in Anspruch nimmt.
Testdetails und die Initiative Project Glasswing
Wie ein anonymer Vertreter der US-Behörden gegenüber der Associated Press mitteilte, wurden die Tests in Zusammenarbeit mit den US-Geheimdiensten durchgeführt. Dabei hob der Beamte ein wichtiges technisches Detail hervor: Die bloße Entdeckung der Schwachstellen bedeute nicht zwangsläufig, dass das KI-Modell in der Lage gewesen wäre, diese in derselben Zeit erfolgreich für einen vollständigen Hack auszunutzen.
Die Tests fanden im Rahmen der Anthropic-Initiative namens Project Glasswing statt. Innerhalb dieses Projekts bündeln Technologieunternehmen ihre Kräfte, um kritische Software besser zu schützen. Das Hauptziel besteht darin, schwerwiegende Folgen für die nationale und öffentliche Sicherheit sowie die Weltwirtschaft zu verhindern, die Experten zufolge durch einen unkontrollierten Einsatz leistungsstarker Modelle wie Mythos entstehen könnten.
Reaktionen aus dem Kongress und dem Pentagon
Die Nachricht über die erfolgreichen und beängstigend schnellen Testergebnisse wurde durch den demokratischen Senator Mark Warner aus Virginia bekannt. Bei einer Anhörung im Bankenausschuss des Senats am 11. Juni bezog er sich dabei auf Informationen von General Joshua Rudd, dem Leiter der National Security Agency (NSA) und des US Cyber Command.
„Dieses Werkzeug hat fast alle unsere geheimen Systeme nicht innerhalb von Wochen, sondern in Stunden geknackt“, erklärte Warner und verwies auf die beispiellose Geschwindigkeit des neuronalen Netzes bei der Analyse geschützter Objekte.
Wachsende Spannungen zwischen Anthropic und dem Weißen Haus
Trotz der engen Kooperation mit den US-Geheimdiensten im Bereich der Cybersicherheit wachsen die ideologischen Spannungen zwischen Anthropic und der Regierung von Donald Trump.
Anthropic äußert dabei offen Besorgnis darüber, wie genau das Pentagon und militärische Strukturen ihre KI-Systeme einsetzen wollen. Als Reaktion darauf unternimmt die Regierung drastische Schritte, um die Anwendung hochentwickelter Modelle zu beschränken.
Anfang Juni erließ das Weiße Haus eine Richtlinie, die Anthropic dazu verpflichtet, ausländischen Staatsbürgern den Zugang zu neuesten Entwicklungen wie den Modellen Fable 5 und Mythos 5 zu verwehren. Das Unternehmen hält solche restriktiven Maßnahmen für überzogen, was den Konflikt um die künftige Regulierung künstlicher Intelligenz in den USA weiter verschärft.
