L'intelligenza artificiale si sta sviluppando così rapidamente che a lanciare l'allarme non sono più soltanto i suoi critici, ma anche le persone che hanno contribuito a fondare l'odierna industria dell'IA.
E occorre precisare: la maggior parte di loro non si oppone all'IA in quanto tale. Parlano d'altro: del fatto che la corsa verso modelli sempre più potenti procede più in fretta di quanto nascano regole chiare di sicurezza, controllo e responsabilità.
Una delle voci più note è Geoffrey Hinton, uno dei «padrini» dell'IA moderna. Dopo aver lasciato Google, ha iniziato a parlare con molta più apertura dei rischi: dall'espulsione di massa delle persone dal mercato del lavoro fino alla comparsa di sistemi che un giorno potrebbero rivelarsi più difficili da controllare di quanto immaginiamo.
Un'altra figura chiave è Yoshua Bengio, anch'egli uno dei pionieri del deep learning. Negli ultimi anni si occupa sempre più attivamente delle questioni legate alla sicurezza dell'IA e invita gli Stati a non attendere incidenti gravi, ma a creare in anticipo una supervisione indipendente e limiti per i sistemi più potenti.
Nel 2023 Bengio ha sostenuto una lettera aperta che chiedeva di sospendere per almeno sei mesi l'addestramento di sistemi più potenti di GPT-4.
Tra i firmatari c'era anche Elon Musk. Egli ha appoggiato l'idea di una pausa nella corsa ai più grandi modelli di IA, affinché nel frattempo nascessero regole più affidabili, standard di sicurezza e strumenti di controllo.
Allo stesso appello si è unito il cofondatore di Apple Steve Wozniak. In seguito ha parlato separatamente della necessità che gli sviluppatori siano più trasparenti e si assumano la responsabilità dei danni che la tecnologia può causare.
Tra gli intellettuali più noti vi è lo storico e scrittore Yuval Noah Harari. Da tempo egli avverte che il pericolo particolare dell'IA non risiede soltanto nelle «macchine intelligenti», ma anche nella capacità degli algoritmi di generare in massa testi, immagini e contenuti persuasivi. A suo avviso, ciò può trasformare profondamente l'ambiente informativo e i modi in cui le persone prendono decisioni.
Uno dei critici più coerenti della corsa incontrollata è il professor dell'Università della California a Berkeley Stuart Russell, coautore di uno dei più noti manuali di intelligenza artificiale.
La sua posizione è piuttosto semplice: il problema sorge se creiamo sistemi capaci di raggiungere obiettivi in modo più efficiente dell'uomo, ma non possiamo garantire che i loro obiettivi coincidano davvero con i nostri.
Ed è particolarmente significativo che a parlare con maggiore cautela siano ormai anche i dirigenti delle maggiori aziende di IA.
Il capo di Anthropic Dario Amodei ha pubblicamente invocato uno sviluppo più lento e controllato dei modelli d'avanguardia, affinché i metodi di sicurezza tengano il passo con le loro capacità. Si batte per verifiche indipendenti, standard comuni e cooperazione internazionale.
Persino Sam Altman, a capo di OpenAI, ha più volte parlato della necessità di regolamentare i sistemi più potenti e del fatto che lo sviluppo dell'IA non deve trasformarsi in una corsa in cui la velocità conta più della sicurezza.
Idee simili sono state espresse anche dal capo di Google DeepMind Demis Hassabis. Le maggiori aziende di IA discutono sempre più spesso approcci comuni al controllo dei rischi più gravi.
Ne risulta un quadro piuttosto paradossale.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman e altri possono divergere molto nella valutazione della portata della minaccia e di quanto occorra frenare lo sviluppo. Ma su una cosa concordano: lasciare un'IA superpotente del tutto priva di regole è una cattiva idea.
Vi sono però anche scettici seri.
Alcuni esperti ritengono che i discorsi sulla «fine dell'umanità» siano molto esagerati e ricordano che i sistemi attuali hanno ancora molti limiti.
Altri sospettano che alle grandi aziende di IA convenga alimentare i discorsi su una regolamentazione severa, perché ciò potrebbe complicare la vita ai concorrenti più piccoli.
Perciò attorno al tema è in corso un dibattito molto serio, e nella comunità scientifica non esiste un'opinione unanime.
Ma il fatto stesso è notevole: ancora pochi anni fa la domanda suonava così:
«Che cosa saprà fare l'IA?»
Ora sempre più spesso se ne pone un'altra:
«E faremo in tempo a imparare a governarla prima che diventi troppo potente?»
