Anthropic heeft gemeld dat het dit jaar verschillende potentiële pogingen heeft verijdeld om de AI-modellen van het bedrijf te gebruiken voor onderzoek dat zou kunnen bijdragen aan de ontwikkeling van biologische wapens. Het bedrijf publiceerde op 10 september 2026 een rapport waarin gevallen werden beschreven waarin wetenschappers probeerden de beperkingen te omzeilen.
Onderzoekers uit verboden regio's omzeilden toegangsblokkades en verborgen de doelen van hun werk. Anthropic kon niet met zekerheid vaststellen of dit onderzoek legitiem of schadelijk was — veel biologische experimenten hebben een dubbel gebruik en kunnen zowel voor vaccins als voor gevaarlijke pathogenen dienen.
In één geval vroeg een wetenschapper in mei om hulp bij het schrijven van een subsidieaanvraag voor onderzoek naar het chikungunyavirus, dat door muggen wordt overgedragen en hevige pijn veroorzaakt. Het werk was volgens het bedrijf gepland bij een militair onderzoeksinstituut.
‘Je ziet niet iemand in stripstijl die zegt: „Hé, ik wil een biologisch wapen bouwen om iedereen te doden”’, merkte het hoofd van de dreigingsafdeling van Anthropic, Jacob Klein, op. Het bedrijf koos ervoor om het zekere voor het onzekere te nemen en blokkeerde de betrokken accounts.
Expert Andrew Weber van de Council on Strategic Risks noemde deze gevallen ‘verontrustende voorbeelden’ van hoe aan staten gelieerde ontwikkelaars van biologische wapens de mogelijkheden van geavanceerde AI-modellen benutten. Het rapport behandelt vijf dergelijke incidenten.
Hoe ver kan een dergelijke dualiteit in de echte wereld gaan, nu AI steeds krachtiger wordt?
Dit is het eerste openbare rapport van een grote AI-onderneming over daadwerkelijke pogingen tot dergelijk misbruik op biologisch gebied, en niet alleen in laboratoriumtests. Anthropic benadrukt dat de gevolgen van een verkeerde inschatting te ernstig kunnen zijn om risico's te nemen.
