Anthropic сообщила, что в этом году пресекла несколько потенциальных попыток использования своих моделей ИИ для исследований, которые могли помочь в создании биологического оружия. Компания опубликовала отчет 10 сентября 2026 года, где описала случаи, когда ученые пытались обойти ограничения.
Исследователи из запрещенных регионов обошли блокировки доступа и скрывали цели своей работы. Anthropic не смогла точно определить, были ли эти исследования легитимными или вредоносными — многие биологические эксперименты имеют двойное назначение и могут служить как для вакцин, так и для опасных патогенов.
В одном случае в мае ученый обратился за помощью в написании заявки на грант для исследований вируса чикунгунья, который переносится комарами и вызывает сильную боль. Работа, по данным компании, планировалась в военном исследовательском институте.
«Вы не видите кого-то в комиксном стиле, который говорит: „Эй, я хочу построить биологическое оружие, чтобы убить всех“», — отметил глава отдела по угрозам Anthropic Джейкоб Кляйн. Компания предпочла перестраховаться и заблокировала связанные аккаунты.
Эксперт Эндрю Вебер из Council on Strategic Risks назвал эти случаи «тревожными примерами» того, как разработчики биологического оружия, связанные с государствами, используют возможности передовых ИИ-моделей. Отчет охватывает пять подобных инцидентов.
Как далеко может зайти такая двойственность в реальном мире, когда ИИ становится все мощнее?
Это первый публичный отчет крупной ИИ-компании о реальных попытках подобного misuse в биологической сфере, а не только в лабораторных тестах. Anthropic подчеркивает, что последствия ошибки в оценке могут быть слишком серьезными, чтобы рисковать.
