Anthropic повідомила, що цього року припинила кілька потенційних спроб використання своїх моделей ШІ для досліджень, які могли допомогти у створенні біологічної зброї. Компанія опублікувала звіт 10 вересня 2026 року, де описала випадки, коли вчені намагалися обійти обмеження.
Дослідники із заборонених регіонів обійшли блокування доступу та приховували цілі своєї роботи. Anthropic не змогла точно визначити, чи були ці дослідження легітимними чи шкідливими — багато біологічних експериментів мають подвійне призначення і можуть слугувати як для вакцин, так і для небезпечних патогенів.
В одному випадку у травні вчений звернувся за допомогою у написанні заявки на грант для досліджень вірусу чикунгунья, який переноситься комарами і викликає сильний біль. Робота, за даними компанії, планувалася у військовому дослідницькому інституті.
«Ви не бачите когось у коміксному стилі, який каже: „Гей, я хочу створити біологічну зброю, щоб убити всіх“», — зазначив голова відділу з загроз Anthropic Джейкоб Кляйн. Компанія вирішила перестрахуватися і заблокувала пов'язані акаунти.
Експерт Ендрю Вебер із Council on Strategic Risks назвав ці випадки «тривожними прикладами» того, як розробники біологічної зброї, пов'язані з державами, використовують можливості передових ШІ-моделей. Звіт охоплює п'ять подібних інцидентів.
Як далеко може зайти така подвійність у реальному світі, коли ШІ стає дедалі потужнішим?
Це перший публічний звіт великої ШІ-компанії про реальні спроби подібного зловживання у біологічній сфері, а не лише в лабораторних тестах. Anthropic підкреслює, що наслідки помилки в оцінці можуть бути надто серйозними, щоб ризикувати.
