Il modello di intelligenza artificiale Mythos, sviluppato da Anthropic, ha identificato diverse vulnerabilità all'interno di sistemi informatici governativi statunitensi altamente sensibili e classificati durante un'esercitazione di prova. Secondo i funzionari americani, l'algoritmo ha impiegato solo poche ore per scovare queste falle nella sicurezza, un processo che normalmente richiederebbe intere settimane.
Dettagli dei test e l'iniziativa Project Glasswing
Come riferito all'agenzia Associated Press da una fonte governativa anonima, i test sono stati condotti in stretta collaborazione con i servizi di intelligence degli Stati Uniti. Allo stesso tempo, il funzionario ha evidenziato un importante aspetto tecnico: la sola individuazione delle falle non significava che il modello di IA potesse, nello stesso intervallo di tempo, sfruttarle con successo o eseguire un attacco informatico completo.
I test si sono svolti nell'ambito dell'iniziativa di Anthropic denominata Project Glasswing. In questo progetto, le aziende tecnologiche collaborano per proteggere i software di importanza critica. L'obiettivo centrale dell'iniziativa è scongiurare gravi ricadute sulla sicurezza nazionale e pubblica, oltre che sull'economia globale, che gli esperti temono possano scaturire dall'impiego fuori controllo di modelli potenti quanto Mythos.
Reazione del Congresso e del Pentagono
I risultati di questi test, sorprendentemente rapidi, sono stati resi noti grazie al senatore democratico della Virginia Mark Warner. Intervenendo l'11 giugno a un'audizione presso la commissione bancaria del Senato, Warner ha citato le informazioni del capo della National Security Agency (NSA) e dello U. S. Cyber Command, il generale Joshua Rudd.
«Questo strumento ha violato quasi tutti i nostri sistemi segreti non in settimane, ma in ore», ha dichiarato Warner, sottolineando la velocità senza precedenti della rete neurale nell'analisi di obiettivi protetti.
Tensioni crescenti tra Anthropic e la Casa Bianca
Nonostante l'attiva cooperazione con i servizi segreti statunitensi in materia di cybersicurezza, si registra una crescente tensione ideologica tra Anthropic e l'amministrazione di Donald Trump.
Anthropic ha manifestato apertamente timori su come il Pentagono e le gerarchie militari intendono impiegare i propri sistemi di IA. Per contro, l'amministrazione sta attuando provvedimenti rigorosi per restringere l'uso dei modelli più avanzati. Nei primi giorni di giugno, la Casa Bianca ha diffuso una direttiva che obbliga Anthropic a inibire l'accesso ai suoi ultimi progetti — i modelli Fable 5 e Mythos 5 — ai cittadini non americani. La società reputa tali vincoli sproporzionati, il che non fa che inasprire la controversia sulla futura governance dell'intelligenza artificiale negli Stati Uniti.
