Agentes de IA Encontram Erros de Décadas em Artigos Científicos

Editado por: Svitlana Velhush

A inteligência artificial está sendo cada vez mais utilizada para verificar publicações científicas e bases de dados. Exemplos recentes demonstram como agentes de IA identificam imprecisões que passaram despercebidas por décadas.

O químico teórico Sebastian Pioss, do Zhejiang Lab em Hangzhou, utilizou um modelo de inteligência artificial para prever os pontos de ebulição de moléculas. O sistema gerou valores que contradiziam dados de um manual de referência de 75 anos. A princípio, Pioss suspeitou de um erro no modelo, mas a verificação das fontes originais revelou o contrário: os dados de referência eram, de fato, os incorretos.

Em outras situações, a IA identificou um erro de digitação em um artigo e valores incorretos de medições de pontos de ebulição que datavam de cem anos atrás. Segundo Pioss, esses equívocos poderiam ter causado muitos problemas aos pesquisadores ao utilizarem a base de dados.

Ferramentas semelhantes são também empregadas para auditar trabalhos de conferências. Numa análise da SAI Labs, agentes de IA examinaram 168 artigos provenientes de apresentações orais da ICML 2026. Das 92 pesquisas com um número suficiente de afirmações verificáveis, os agentes conseguiram reproduzir mais de duas em cada cinco alegações principais em apenas 34 casos. A reprodução completa — mais de 80% das afirmações — foi alcançada em apenas oito artigos.

James Zou, de Stanford, e seus colegas desenvolveram um "verificador de IA" que escaneou artigos da NeurIPS. O número de erros objetivos em fórmulas, cálculos e figuras aumentou de 3,8 por artigo em 2021 para 5,9 em 2025 — um incremento de 55%. Essas ferramentas permitem operar em escalas inatingíveis para seres humanos.

Contudo, especialistas alertam: a IA também comete erros. Odd Erik Gundersen, da Universidade Norueguesa de Ciência e Tecnologia, ressalta a necessidade de supervisão humana. Como, então, garantir a confiabilidade do conhecimento científico na era da verificação automatizada?

A análise foca em erros objetivos, deixando as questões de novidade e relevância a critério humano. Isso ajuda a evitar sobrecarregar a IA com julgamentos subjetivos.

43 Visualizações

Fontes

  • AI agents are checking the scientific literature — and spotting decades-old errors

Comentários

Leia mais artigos sobre este tema:

Korea Aerospace Industries says its AI module on the 12U BEE-1012 CubeSat, launched on Nuri Oct 7, passed an orbital pilot Oct 20. Given a simulated fault, it diagnosed cause and scope and sent back a fix plan. A main demo starts in December. Image Credit: Yonsei University

Image
Reply

Great paper from Anthropic on AI agents doing ML-for-science research. (bookmark it) If you build AI-scientist systems, this one is worth your time. They propose Agent4Sci, which gives frontier coding agents 20 scientific ML benchmarks across 11 domains and asks them to beat

Image
Reply
Encontrou um erro ou imprecisão?Vamos considerar seus comentários assim que possível.