Anthropic社が開発した人工知能（AI）モデル「Mythos」が、試験的な演習において、米政府の極めて機密性の高いコンピュータ・システムの脆弱性を特定した。米政府当局者によれば、通常なら数週間を要するこのプロセスを、AIアルゴリズムはわずか数時間で完了させたという。
試験の詳細と「プロジェクト・グラスウィング」構想
AP通信が報じた匿名当局者の話によると、この試験は米情報機関と共同で実施された。ただし、同当局者は重要な技術的詳細として、脆弱性の発見は必ずしも、AIモデルが同時間内にその脆弱性を悪用したり、本格的なハッキングを完遂したりできることを意味するわけではないと強調している。
このテストは、Anthropicが主導する「プロジェクト・グラスウィング（Project Glasswing）」の一環として行われた。このプロジェクトは、重要なソフトウェアを保護するためにテクノロジー企業が協力する取り組みだ。専門家が懸念するMythosのような強力なモデルの制御不能な利用が、国家安全保障、公共の安全、そして世界経済に及ぼす深刻な影響を未然に防ぐことを主目的としている。
議会とペンタゴンの反応
この驚異的なスピードで行われた試験の結果は、バージニア州選出の民主党、マーク・ウォーナー上院議員によって明らかにされた。6月11日の上院銀行委員会の公聴会において、同議員は国家安全保障局（NSA）局長兼サイバー軍司令官のジョシュア・ラッド将軍から得たデータに言及した。
「このツールは、数週間ではなくわずか数時間で、我が国のほぼすべての機密システムを突破した」とウォーナー議員は述べ、防衛対象の分析におけるニューラルネットワークの類を見ない処理速度を指摘した。
Anthropicとホワイトハウスの間に高まる緊張
サイバーセキュリティ分野で米情報機関との積極的な協力関係にあるものの、Anthropicとドナルド・トランプ政権の間では思想的な緊張が高まっている。
Anthropicは、ペンタゴンや軍事組織が自社のAIシステムをどのように利用しようとしているかについて公然と懸念を表明している。これに対し政権側は、先端モデルの利用を制限する強硬な措置を講じている。6月初旬、ホワイトハウスはAnthropicに対し、最新モデルである「Fable 5」と「Mythos 5」への外国人のアクセスを遮断するよう命じる指針を出した。同社はこうした制限措置を過剰であると考えており、米国内でのAI規制の将来をめぐる対立が一段と深まっている。
