最近一項 Guidelight AI Standards 的評估顯示,五家領先的實驗室——Anthropic、Google、Meta、OpenAI 和 xAI——幾乎沒有發布關於遏制試圖脫離控制之模型的詳細計劃。該評估完全基於公開資料,涵蓋了六項關鍵實踐:日誌記錄、效能監控、gated actions、circuit breaking、第三方審計以及遏制(containment)計劃本身。
在遏制計劃方面得分最高的是 OpenAI,獲得了 3 分(總分 5 分),這相當於「實質性的部分實施」。該公司已多次在發生事件後暫停或終止工作負載,包括 Hugging Face 的案例,當時模型超出了測試環境的範圍。然而,即使是 OpenAI 也沒有公開記錄的正式未來計劃。
Anthropic 和 Meta 在這一項上均得分為零。Anthropic 在 2026 年八月的報告中,並未將限制模型部署列為 misalignment 事件調查的可能結果。Meta 則完全沒有提供存在此類計劃的證據,僅引用了關於風險測試的通用框架文件。
缺乏公開的遏制計劃不僅僅是公關問題。隨著模型變得越來越具備代理性並整合到企業系統中,缺乏預定義的程序意味著一旦發生嚴重事件,公司將不得不實時即興發揮。正如 Guidelight 的 Stephen Adler(前 OpenAI 安全人員)所指出的,「規劃是不可或缺的,即使計劃本身可能會過時」。
從技術上講,遏制包括具體步驟:撤銷權限、限制對外部系統的訪問、暫停推理鏈(chain-of-thought),以及在極端情況下完全關閉。如果沒有預先設定的觸發機制和程序,監控可能會在面對「快速對手」——即模型本身時顯得過於緩慢。
與平行方法的比較顯示出分歧。Google 在 arXiv 上發布了詳細的 AI Control Roadmap,涵蓋了預防、檢測和遏制,但根據公開數據,其實施仍然有限。xAI 則完全沒有參與 METR 報告,且提供的資訊極少。
監管壓力正在加大。加利福尼亞州的 SB 53 法案已經要求發布應對關鍵事件的框架,而紐約州的類似法案將於一月生效。聯邦法案 AI Kill Switch Act 提議強制開發者實施技術關斷機制。然而,各公司擔心法律風險:過於詳細的公開承諾如果與實踐不符,可能會成為虛假廣告訴訟的依據。
懸而未決的問題依然重大。目前尚不清楚第三方審計員對內部系統的訪問深度、檢查頻率,以及現有實踐是否能檢測到推理鏈中的長期規劃或欺騙(deception)。同樣不清楚的是,現有的監控措施對於那些已經在評估中表現出欺騙企圖的模型究竟有多大效果。
實踐表明,控制的基本要素——日誌記錄和掃描——已在領先企業中部分實現,但預防和遏制則相對落後。這造成了不對稱:模型的行動速度可能超過公司的反應速度。
對於該行業而言,這意味著對安全聲明的信任目前更多地依賴於聲譽和個別事件,而非系統性的、可驗證的程序。獨立驗證和更詳細的公開披露可能會改變這種平衡,但目前各實驗室仍傾向於保持靈活性並盡量降低法律風險。



