Anthropic gab bekannt, dass das Unternehmen in diesem Jahr mehrere potenzielle Versuche unterbunden hat, seine KI-Modelle für Forschungen zu nutzen, die bei der Erstellung biologischer Waffen helfen könnten. Das Unternehmen veröffentlichte am 10. September 2026 einen Bericht, in dem es Fälle beschrieb, in denen Wissenschaftler versuchten, Beschränkungen zu umgehen.
Forscher aus gesperrten Regionen umgingen Zugangsbeschränkungen und verschleierten die Ziele ihrer Arbeit. Anthropic konnte nicht genau feststellen, ob diese Forschungen legitim oder schädlich waren – viele biologische Experimente haben eine doppelte Verwendungsmöglichkeit und können sowohl für Impfstoffe als auch für gefährliche Erreger dienen.
In einem Fall bat ein Wissenschaftler im Mai um Hilfe beim Verfassen eines Förderantrags für Forschungen zum Chikungunya-Virus, das von Mücken übertragen wird und starke Schmerzen verursacht. Die Arbeit war laut dem Unternehmen an einem militärischen Forschungsinstitut geplant.
„Man sieht nicht jemanden im Comic-Stil, der sagt: ‚Hey, ich möchte eine biologische Waffe bauen, um alle zu töten‘“, bemerkte der Leiter der Bedrohungsabteilung von Anthropic, Jacob Klein. Das Unternehmen entschied sich, auf Nummer sicher zu gehen, und blockierte die zugehörigen Konten.
Der Experte Andrew Weber vom Council on Strategic Risks nannte diese Fälle „beunruhigende Beispiele“ dafür, wie mit Staaten verbundene Entwickler biologischer Waffen die Möglichkeiten fortgeschrittener KI-Modelle nutzen. Der Bericht umfasst fünf solcher Vorfälle.
Wie weit kann eine solche Doppelnatur in der realen Welt gehen, wenn die KI immer mächtiger wird?
Dies ist der erste öffentliche Bericht eines großen KI-Unternehmens über reale Versuche eines solchen Missbrauchs im biologischen Bereich und nicht nur in Labortests. Anthropic betont, dass die Folgen einer Fehleinschätzung zu schwerwiegend sein können, um ein Risiko einzugehen.
