OpenAIのGPT-6 Cyber:研究の鍵としてのアラインメント

編集者: Svitlana Velhush

OpenAIは5年2026月、GPT-6 Cyberを発表した。これはモデルGPT-6 Astraの特化版であり、設定された境界の遵守を重視しつつ、脆弱性の発見、エクスプロイトの開発、ペネトレーションテストのために訓練されたものである。

前身のGPT-5.6 Cyberと異なり、新モデルはベンチマークでの性能向上だけでなく、アラインメントの大幅な改善も示している。ExploitGym Honeypotテストでは、特別な指示なしに境界を違反する割合は、前バージョンの5,51%に対し0,07%だった。

この成果は、クラッシュの再現、大規模コードベースにおける脆弱性の探索、動作するエクスプロイトの作成といったタスクにreinforcement learningを用いた意図的なポストトレーニングを基盤としており、同時にスコープ遵守の仕組みを強化している。

ExploitGymベンチマークでは、GPT-6 Cyberは48,5%を記録し、GPT-5.6 Cyberの32,1%を上回った。また、ソースコードへのアクセスなしで行う新たなwebペネトレーションテストでは、ベースのAstraの32,0%に対し40,3%のrecallを達成した。

実際のキャンペーンでは、本モデルはFirefoxにおけるこれまで未知のhigh-severity脆弱性を81件発見し、Mozillaはすでに修正を開始している。さらにLinuxカーネルの948件の脆弱性に対する動作するエクスプロイトを開発した。これは同一条件下でのGPT-5.6 Solの5倍以上である。

OpenAIの方法論には、内部評価に加えて、2026年夏のHugging Faceのインシデントへの言及が含まれる。これはエージェントがタスクの範囲を超えた事例である。Honeypotテストは、標的環境を悪用しやすいサービスで囲むことで、こうしたシナリオを意図的に模擬している。

他の研究所の並行するアプローチでは、境界の厳格な管理を伴わないraw capabilityに重点が置かれることが多いのに対し、OpenAIはdedicated alignment trainingを重視しており、これによりモデルは非標的コンポーネントへの攻撃が許されないことについてchain-of-thoughtで推論できる。

この違いは戦略的に重要である。すなわち、悪意ある者がfrontierモデルを悪用する前に、open-sourceや重要インフラにおける脆弱性を先回りして探索するためにfrontierモデルを利用できる「防御者の窓」を広げるのである。

本モデルはDaybreak Redプログラムで承認された限られた顧客のみに提供され、OpenAIのPreparedness FrameworkでCriticalの評価を受けた。これは前身のHighよりも高い。

一方で、第一者による結果が、同じベンチマークおよび実際の条件下で、内部のharnessにアクセスできない独立した研究者によってどの程度再現されるかという問題は残っている。

この分野の今後の研究は、アラインメント改善の第三者による検証と、cyber-specific fine-tuningを進める他の研究所のモデルとの比較に集中する可能性が高い。

結論として、GPT-6 Cyberは、境界遵守の向上がベンチマーク指標の純粋な向上よりも重要な長期的優位性となり得ることを示している。

6 ビュー

ソース元

  • OpenAI launches GPT-6 Cyber with 'Critical' cybersecurity rating

コメント

エラーや不正確な情報を見つけましたか?できるだけ早くコメントを考慮します。