A Anthropic informou que, neste ano, impediu várias tentativas potenciais de uso de seus modelos de IA para pesquisas que poderiam ajudar na criação de armas biológicas. A empresa publicou um relatório em 10 de setembro de 2026, no qual descreveu casos em que cientistas tentaram contornar as restrições.
Pesquisadores de regiões proibidas contornaram os bloqueios de acesso e ocultaram os objetivos de seu trabalho. A Anthropic não conseguiu determinar com precisão se essas pesquisas eram legítimas ou maliciosas — muitos experimentos biológicos têm dupla finalidade e podem servir tanto para vacinas quanto para patógenos perigosos.
Em um dos casos, em maio, um cientista pediu ajuda para redigir uma proposta de financiamento para pesquisas sobre o vírus chikungunya, que é transmitido por mosquitos e causa dores intensas. Segundo a empresa, o trabalho estava planejado em um instituto de pesquisa militar.
«Você não vê alguém em estilo de quadrinhos dizendo: „Ei, quero construir uma arma biológica para matar todo mundo“», observou o chefe do departamento de ameaças da Anthropic, Jacob Klein. A empresa preferiu pecar por excesso de cautela e bloqueou as contas relacionadas.
O especialista Andrew Weber, do Council on Strategic Risks, chamou esses casos de «exemplos alarmantes» de como desenvolvedores de armas biológicas ligados a Estados usam as capacidades de modelos avançados de IA. O relatório abrange cinco incidentes desse tipo.
Até onde essa dualidade pode chegar no mundo real, quando a IA se torna cada vez mais poderosa?
Este é o primeiro relatório público de uma grande empresa de IA sobre tentativas reais de uso indevido desse tipo na esfera biológica, e não apenas em testes de laboratório. A Anthropic enfatiza que as consequências de um erro de avaliação podem ser graves demais para se correr o risco.
