Anthropic informó que este año frustró varios intentos potenciales de utilizar sus modelos de IA para investigaciones que podrían contribuir a la creación de armas biológicas. La empresa publicó un informe el 10 de septiembre de 2026, en el que describió casos en los que científicos intentaron eludir las restricciones.
Investigadores de regiones prohibidas eludieron los bloqueos de acceso y ocultaron los objetivos de su trabajo. Anthropic no pudo determinar con exactitud si esas investigaciones eran legítimas o maliciosas: muchos experimentos biológicos tienen doble uso y pueden servir tanto para vacunas como para patógenos peligrosos.
En un caso, en mayo, un científico solicitó ayuda para redactar una propuesta de subvención para investigar el virus chikungunya, que se transmite por mosquitos y provoca dolores intensos. Según la empresa, el trabajo estaba previsto en un instituto de investigación militar.
«Uno no ve a alguien al estilo de los cómics que diga: “Oye, quiero construir un arma biológica para matar a todos”», señaló el jefe del departamento de amenazas de Anthropic, Jacob Klein. La empresa prefirió pecar de prudente y bloqueó las cuentas relacionadas.
El experto Andrew Weber, del Council on Strategic Risks, calificó estos casos de «ejemplos alarmantes» de cómo los desarrolladores de armas biológicas vinculados a Estados utilizan las capacidades de los modelos avanzados de IA. El informe abarca cinco incidentes de este tipo.
¿Hasta dónde puede llegar esa dualidad en el mundo real, cuando la IA es cada vez más potente?
Es el primer informe público de una gran empresa de IA sobre intentos reales de este tipo de uso indebido en el ámbito biológico, y no solo en pruebas de laboratorio. Anthropic subraya que las consecuencias de un error de evaluación pueden ser demasiado graves como para correr el riesgo.
