Anthropicは、今年、生物兵器の開発に繋がる可能性のある研究に自社のAIモデルを利用しようとする潜在的な試みを数件阻止したと発表した。同社は2026年9月10日に報告書を公開し、科学者たちが制限を回避しようとした事例を詳述した。
禁止地域からの研究者たちがアクセス制限を回避し、研究目的を隠蔽していた。Anthropicは、これらの研究が正当なものか悪意のあるものかを正確に判断できなかった。多くの生物学的実験はデュアルユース（両用）の性質を持ち、ワクチン開発にも危険な病原体の作成にも利用され得るためである。
5月の事例では、ある科学者が、蚊によって媒介され激痛を引き起こすチクングニアウイルスの研究に関する助成金申請書の作成について助力を求めた。同社によれば、その研究は軍の研究機関で計画されていたという。
「『おい、全員を殺すために生物兵器を作りたいんだ』と漫画のように言う者は現れません」と、Anthropicの脅威対策部門の責任者、ジェイコブ・クラインは指摘した。同社は慎重を期して、関連するアカウントを停止する措置をとった。
Council on Strategic Risksのエキスパート、アンドリュー・ウェーバー氏は、これらの事例を、国家と繋がりのある生物兵器開発者が最先端AIモデルの能力を利用している「憂慮すべき例」であると述べた。報告書は、五つのこうした事例を網羅している。
AIがますます強力になる中で、現実世界におけるこうした二面性はどこまで進展し得るのだろうか。
これは、単なるラボでのテストではなく、生物学分野における実際の悪用の試みについて大手AI企業が公開した初めての報告書である。Anthropicは、評価を誤った際の結果が極めて重大になり得るため、リスクを冒すことはできないと強調している。
