Het door Anthropic ontwikkelde AI-model Mythos heeft tijdens een oefening kwetsbaarheden blootgelegd in uiterst gevoelige en geclassificeerde computersystemen van de Amerikaanse overheid. Volgens Amerikaanse functionarissen had het algoritme slechts enkele uren nodig om deze beveiligingslekken te vinden, terwijl dit proces onder normale omstandigheden weken in beslag neemt.
Details van de tests en het Project Glasswing-initiatief
Een anonieme vertegenwoordiger van de Amerikaanse autoriteiten meldde aan persbureau Associated Press dat de tests in samenwerking met de Amerikaanse inlichtingendiensten zijn uitgevoerd. Daarbij benadrukte de functionaris een belangrijk technisch detail: het feit dat de kwetsbaarheden werden gevonden, betekende niet dat het AI-model in diezelfde tijd in staat zou zijn geweest om deze ook daadwerkelijk te misbruiken of een volledige hack uit te voeren.
De tests vonden plaats in het kader van het Anthropic-initiatief genaamd Project Glasswing. Binnen dit project bundelen technologiebedrijven hun krachten om cruciale software te beschermen. Het hoofddoel van het initiatief is het voorkomen van ernstige gevolgen voor de nationale en openbare veiligheid en de wereldeconomie, die volgens experts kunnen voortvloeien uit het ongecontroleerde gebruik van krachtige modellen zoals Mythos.
Reacties van het Congres en het Pentagon
De succesvolle en verontrustend snelle resultaten kwamen aan het licht via de Democratische senator Mark Warner uit Virginia. Tijdens een hoorzitting van de Senaatscommissie voor Bankzaken op 11 juni verwees hij naar gegevens van generaal Joshua Rudd, het hoofd van de National Security Agency (NSA) en US Cyber Command.
"Deze tool kraakte bijna al onze geheime systemen niet in weken, maar in uren," verklaarde Warner, waarbij hij wees op de ongekende snelheid waarmee het neurale netwerk beveiligde objecten analyseert.
Toenemende spanningen tussen Anthropic en het Witte Huis
Ondanks de actieve samenwerking met de Amerikaanse geheime diensten op het gebied van cyberbeveiliging, neemt de ideologische spanning tussen Anthropic en de regering-Trump toe.
Bij Anthropic spreekt men openlijk de bezorgdheid uit over de wijze waarop het Pentagon en militaire instanties van plan zijn hun AI-systemen in te zetten. Als reactie hierop neemt de regering strenge maatregelen om het gebruik van geavanceerde modellen aan banden te leggen.
Begin juni vaardigde het Witte Huis een richtlijn uit die Anthropic verplicht om de toegang tot hun nieuwste ontwikkelingen — de modellen Fable 5 en Mythos 5 — voor buitenlandse staatsburgers te blokkeren. Het bedrijf zelf beschouwt dergelijke beperkingen als buitensporig, wat het conflict over de toekomstige regulering van kunstmatige intelligentie in de Verenigde Staten verder aanwakkert.
