Anthropic a annoncé avoir déjoué cette année plusieurs tentatives potentielles d'utilisation de ses modèles d'IA pour des recherches qui auraient pu contribuer à la création d'armes biologiques. L'entreprise a publié un rapport le 10 septembre 2026, dans lequel elle décrit des cas où des scientifiques ont tenté de contourner les restrictions.
Des chercheurs issus de régions interdites ont contourné les blocages d'accès et dissimulé les objectifs de leurs travaux. Anthropic n'a pas pu déterminer avec certitude si ces recherches étaient légitimes ou malveillantes — de nombreuses expériences biologiques ont un double usage et peuvent servir aussi bien à des vaccins qu'à des pathogènes dangereux.
Dans un cas, en mai, un scientifique a demandé de l'aide pour rédiger une demande de subvention destinée à des recherches sur le virus chikungunya, transmis par les moustiques et provoquant de fortes douleurs. Selon l'entreprise, ces travaux étaient prévus dans un institut de recherche militaire.
« Vous ne voyez pas quelqu'un dans un style de bande dessinée qui dit : “Hé, je veux construire une arme biologique pour tuer tout le monde” », a souligné le responsable du département des menaces d'Anthropic, Jacob Klein. L'entreprise a préféré jouer la prudence et a bloqué les comptes concernés.
L'expert Andrew Weber, du Council on Strategic Risks, a qualifié ces cas d'« exemples inquiétants » de la manière dont des développeurs d'armes biologiques liés à des États exploitent les capacités des modèles d'IA avancés. Le rapport couvre cinq incidents de ce type.
Jusqu'où une telle dualité peut-elle aller dans le monde réel, à mesure que l'IA devient toujours plus puissante ?
Il s'agit du premier rapport public d'une grande entreprise d'IA sur des tentatives réelles de ce type de détournement dans le domaine biologique, et non seulement dans des tests en laboratoire. Anthropic souligne que les conséquences d'une erreur d'évaluation pourraient être trop graves pour prendre le risque.
