Anthropic 旗下 AI 模型 Mythos 於數小時內尋獲美國機密系統漏洞

作者: Tatyana Hurynovich

Anthropic 旗下 AI 模型 Mythos 於數小時內尋獲美國機密系統漏洞-1

由 Anthropic 公司開發的人工智慧模型 Mythos,在一項測試演習中成功辨識出美國政府極度敏感且列屬機密的電腦系統漏洞。根據美國官員的說法,該演算法僅費時數小時便發現了這些防禦破綻,而以往同樣的過程通常需要耗費數週時間。

測試細節與「透明之翼計畫」(Project Glasswing)

根據美聯社援引一名匿名美國政府官員的消息,這項測試是與美國情報體系聯合進行的。該官員同時強調了一個關鍵技術細節:發現漏洞並不代表 AI 模型能在同一時間內成功利用這些漏洞,或執行完整的駭客攻擊。

此次測試是在 Anthropic 名為「透明之翼計畫」(Project Glasswing)的框架下進行的。在此計畫中,科技公司攜手合作以保護關鍵軟體安全。該計畫的核心目標是防止因像 Mythos 這樣強大的模型在缺乏控管下使用,而對國家與公共安全及全球經濟造成專家所擔憂的嚴重後果。

國會與五角大廈的反應

這場成效驚人且速度快得令人擔憂的測試之所以曝光,歸功於維吉尼亞州的民主黨籍參議員馬克·華納(Mark Warner)。在 6 月 11 日的參議院銀行委員會聽證會上,他引述了國家安全局(NSA)局長兼美國網路司令部司令約書亞·拉德(Joshua Rudd)將軍所提供的數據。

華納表示:「這項工具不是花了幾週,而是僅用幾小時就攻破了我們幾乎所有的機密系統」,並指出神經網路在分析受保護設施時所展現的前所未有的速度。

Anthropic 與白宮之間日益緊張的關係

儘管在網路安全議題上與美國情報機關維持密切合作,Anthropic 與唐納·川普(Donald Trump)政府之間的意識形態緊張關係卻日益升溫。

Anthropic 公開表達了對於五角大廈及軍事單位計畫如何使用其 AI 系統的疑慮。對此,政府正採取強硬手段限制尖端模型的應用。白宮於 6 月初發布了一項指令,要求 Anthropic 禁止外籍人士存取其最新研發的模型——Fable 5 與 Mythos 5。公司內部認為這類限制性措施過於極端,這進一步激化了圍繞美國 AI 未來監管模式的衝突。

5 浏览量

來源

  • ИИ Mythos от Anthropic за считанные часы нашёл уязвимости в засекреченных системах США

发现错误或不准确的地方吗?我们会尽快处理您的评论。