Anthropic 报告称，今年已阻止了数起利用其人工智能模型进行研究的潜在尝试，这些研究可能有助于制造生物武器。该公司于 2026 年 9 月 10 日发布了一份报告，描述了科学家试图绕过限制的情况。
来自受限地区的科研人员绕过了访问封锁，并隐瞒了其工作目的。Anthropic 无法准确判断这些研究是合法的还是有害的——许多生物实验具有双重用途，既可用于疫苗研发，也可用于危险病原体研究。
在 5 月的一个案例中，一名科学家就撰写一份关于基孔肯雅病毒研究的资助申请寻求帮助，该病毒由蚊子传播并会引起剧烈疼痛。据该公司称，这项工作计划在一家军事研究所进行。
“你不会看到像漫画里那样的人说：‘嘿，我想制造生物武器杀光所有人’，”Anthropic 威胁部门负责人雅各布·克莱恩指出。该公司宁愿谨慎行事，封禁了相关账号。
Council on Strategic Risks 的专家安德鲁·韦伯称这些案例是与国家有关的生物武器开发者利用先进人工智能模型能力的“令人不安的例子”。该报告涵盖了五起此类事件。
随着人工智能变得越来越强大，这种现实世界中的双重性会发展到什么程度？
这是大型人工智能公司首次发布关于生物领域此类实际滥用尝试（而非仅限于实验室测试）的公开报告。Anthropic 强调，评估失误的后果可能过于严重，不容冒险。
