L'intelligenza artificiale viene impiegata in modo sempre più attivo per la verifica di pubblicazioni scientifiche e database. Recenti esempi dimostrano come gli agenti di IA stiano individuando inesattezze che erano rimaste inosservate per decenni.
Il chimico teorico Sebastian Pios, dello Zhejiang Lab di Hangzhou, ha applicato un modello di IA per prevedere i punti di ebollizione delle molecole. Il sistema ha fornito valori che contraddicevano i dati provenienti da un manuale di 75 anni fa. Inizialmente, Pios ha sospettato un errore nel modello, ma una verifica delle fonti originali ha dimostrato il contrario: sono stati proprio i dati di riferimento a rivelarsi errati.
In altri casi, l'IA ha identificato un refuso in un articolo e valori errati nelle misurazioni dei punti di ebollizione risalenti a un secolo fa. Questi errori, secondo Pios, avrebbero potuto causare notevoli problemi ai ricercatori durante l'utilizzo del database.
Strumenti simili vengono impiegati anche per l'audit dei lavori presentati alle conferenze. In un'analisi di SAI Labs, gli agenti di IA hanno esaminato 168 articoli derivanti dalle presentazioni orali dell'ICML 2026. Delle 92 opere con un numero sufficiente di affermazioni verificabili, gli agenti sono riusciti a riprodurre più di due dei cinque claim chiave solo in 34 casi. È stato possibile replicare completamente – ovvero più dell'80% delle affermazioni – solo in otto articoli.
James Zou di Stanford e i suoi colleghi hanno sviluppato un "verificatore di IA" che ha scansionato gli articoli di NeurIPS. Il numero di errori oggettivi in formule, calcoli e figure è aumentato da 3,8 per articolo nel 2021 a 5,9 nel 2025, un incremento del 55%. Strumenti del genere consentono di operare su scale inaccessibili all'uomo.
Tuttavia, gli esperti avvertono: anche l'IA commette errori. Odd Erik Gundersen, dell'Università Norvegese di Scienza e Tecnologia, sottolinea la necessità di un controllo umano. Come garantire, quindi, l'affidabilità della conoscenza scientifica nell'era della verifica automatizzata?
L'analisi si concentra sugli errori oggettivi, lasciando le questioni di novità e rilevanza al giudizio degli esseri umani. Ciò aiuta a evitare di sovraccaricare l'IA con giudizi soggettivi.
