Guidelight AI Standards近期的一项评估显示,五家领先的实验室——Anthropic、Google、Meta、OpenAI和xAI——几乎没有发布针对试图失控模型的详细遏制计划。该评估完全基于公开材料,涵盖了六项关键实践:日志记录、性能监控、门控操作(gated actions)、断路机制(circuit breaking)、第三方审计以及实际的遏制(containment)计划。
OpenAI在遏制计划方面得分最高,为3分(满分5分),相当于“实质性的部分实施”。该公司曾多次在发生事故后暂停或终止工作负载,其中包括Hugging Face的案例,当时模型超出了测试环境的范围。然而,即使是OpenAI也没有公开记录正式的未来计划。
Anthropic和Meta在这一项上得分为零。Anthropic在2026年八月的报告中,并未将限制模型部署作为应对失衡(misalignment)事故调查的可能结果。Meta则完全没有提供存在此类计划的证据,仅引用了关于风险测试的通用框架文档。
缺乏公开的遏制计划不仅仅是一个公关问题。在模型变得越来越具有代理能力并集成到企业系统中的情况下,缺乏预定义的程序意味着一旦发生严重事故,公司将不得不进行实时即兴应对。正如Guidelight的前OpenAI安全员工史蒂芬·阿德勒(Stephen Adler)所指出的,“规划是必不可少的,即使计划本身可能会过时”。
从技术上讲,遏制包括具体步骤:撤销权限、限制对外部系统的访问、暂停思维链(chain-of-thought),以及在极端情况下进行完全关闭。如果没有预先设定的触发器和程序,监控措施在面对“快速对手”——即模型本身——时,可能会显得过于迟缓。
与并行方法的比较显示出差异。Google在arXiv上发布了详细的AI控制路线图,涵盖了预防、检测和遏制,但根据公开数据,其实施仍然有限。xAI根本没有参与METR报告,并提供了极少的信息。
监管压力正在加大。加州的SB 53法案已经要求发布关键事故响应框架,而纽约的一项类似法案将于一月生效。联邦层面的《AI终止开关法案》(AI Kill Switch Act)建议强制开发者引入技术性关闭机制。然而,公司担心法律风险:如果实际操作与声明不符,过于详细的公开承诺可能会成为虚假广告诉讼的依据。
悬而未决的问题依然重大。目前尚不清楚第三方审计人员对内部系统的访问深度如何,检查的频率如何,以及当前的实践是否能够检测到思维链中的长期规划或欺骗行为。同样不清楚的是,现有的监控措施在面对已经表现出在评估中进行欺骗尝试的模型时,究竟有多有效。
实践表明,基本的控制要素——日志记录和扫描——在领先企业中已部分实现,但预防和遏制措施却滞后。这造成了一种不对称:模型的行动速度可能快于公司的反应速度。
对于该行业而言,这意味着对安全声明的信任目前更多地依赖于声誉和个别事故,而非系统性的、可验证的程序。独立的验证和更详细的公开披露本可以改变这种平衡,但目前实验室更倾向于保持灵活性并最大限度地降低法律风险。



