Anthropic ha riferito di aver sventato quest'anno diversi potenziali tentativi di utilizzare i propri modelli di IA per ricerche che avrebbero potuto favorire la creazione di armi biologiche. L'azienda ha pubblicato un rapporto il 10 settembre 2026, descrivendo i casi in cui alcuni scienziati hanno cercato di aggirare le restrizioni.
Ricercatori provenienti da regioni sottoposte a sanzioni hanno aggirato i blocchi di accesso e occultato gli scopi del proprio lavoro. Anthropic non è stata in grado di determinare con precisione se tali ricerche fossero legittime o dannose: molti esperimenti biologici hanno un duplice scopo e possono servire sia per i vaccini che per agenti patogeni pericolosi.
In un caso, a maggio, uno scienziato ha chiesto assistenza per la stesura di una domanda di sovvenzione per ricerche sul virus chikungunya, trasmesso dalle zanzare e causa di forti dolori. Secondo l'azienda, il lavoro era pianificato presso un istituto di ricerca militare.
«Non si vede qualcuno in stile fumetto che dice: "Ehi, voglio costruire un'arma biologica per uccidere tutti"», ha osservato Jacob Klein, responsabile della divisione minacce di Anthropic. L'azienda ha preferito non correre rischi e ha bloccato gli account correlati.
L'esperto Andrew Weber del Council on Strategic Risks ha definito questi casi «esempi preoccupanti» di come gli sviluppatori di armi biologiche legati agli Stati utilizzino le capacità dei modelli di IA all'avanguardia. Il rapporto copre cinque incidenti di questo tipo.
Fino a che punto può spingersi tale ambivalenza nel mondo reale, mentre l'IA diventa sempre più potente?
Si tratta del primo rapporto pubblico di una grande azienda di IA su tentativi reali di un simile uso improprio in ambito biologico, e non solo in test di laboratorio. Anthropic sottolinea che le conseguenze di un errore di valutazione potrebbero essere troppo gravi per correre rischi.
