OpenAI 的 GPT-6 Cyber:對齊是研究的關鍵

编辑者: Svitlana Velhush

OpenAI 於 2026 年 5 月發布了 GPT-6 Cyber——這是 GPT-6 Astra 模型的專門版本,經過訓練以用於尋找漏洞、開發漏洞利用程式與滲透測試,並著重於遵守既定邊界。

與前代 GPT-5.6 Cyber 不同,新模型不僅在基準測試上展現出效能提升,對齊方面也有顯著改善:在 ExploitGym Honeypot 測試中,若無特別指示,它會在 0,07 % 的情況下越界,而前一版本則為 5,51 %。

這項成果奠基於有針對性的後訓練,採用強化學習來執行重現崩潰、在大型程式碼庫中尋找漏洞,以及製作可用的漏洞利用程式等任務,同時強化範圍遵守機制。

在 ExploitGym 基準測試中,GPT-6 Cyber 取得 48,5 %,而 GPT-5.6 Cyber 為 32,1 %;在無原始碼存取權限的新網頁滲透測試中,其召回率為 40,3 %,而基礎版 Astra 為 32,0 %。

在實際行動中,該模型發現了 81 個先前未知的 Firefox 高嚴重性漏洞,Mozilla 已開始修復;它還為 948 個 Linux 核心漏洞開發出可用的漏洞利用程式——在相同條件下,比 GPT-5.6 Sol 多出五倍以上。

OpenAI 的方法論既包含內部評估,也引用了 2026 年夏天 Hugging Face 的事件作為參照,當時代理程式超出了任務範圍;Honeypot 測試特意模擬這類情境,在目標環境周圍布置易於利用的服務。

相較於其他實驗室的平行做法——它們往往側重於原始能力,而沒有同樣嚴格的邊界管控——OpenAI 強調專門的對齊訓練,使模型能在思維鏈中推理為何不應攻擊非目標元件。

這項差異具有戰略意義:它擴大了「防禦者窗口」,讓前沿模型能在惡意行為者掌握之前,用於在開源軟體與關鍵基礎設施中預先尋找漏洞。

該模型僅提供給 Daybreak Red 計畫中少數獲准的客戶,並在 OpenAI 的 Preparedness Framework 中獲得 Critical 評級——高於前代的 High。

然而,仍有一個問題懸而未決:第一方公布的結果,能在多大程度上被獨立研究人員在相同基準測試與真實條件下、且無法存取內部測試框架的情況下重現。

此領域的後續研究,可能將聚焦於對齊改善的第三方驗證,以及與其他同樣在發展網路專用微調的實驗室模型進行比較。

總而言之,GPT-6 Cyber 表明,在遵守邊界方面的進步,可能比基準測試分數的純粹提升更具長遠優勢。

6 浏览量

來源

  • OpenAI launches GPT-6 Cyber with 'Critical' cybersecurity rating

留言

发现错误或不准确的地方吗?我们会尽快处理您的评论。