Модель штучного інтелекту Mythos, розроблена компанією Anthropic, під час тестових навчань виявила вразливості в особливо чутливих та засекречених комп’ютерних системах уряду США. За словами американських чиновників, на виявлення цих прогалин у захисті алгоритму знадобилося лише кілька годин, хоча зазвичай цей процес триває тижнями.
Подробиці випробувань та ініціатива Project Glasswing
Як повідомило агентству Associated Press анонімне джерело в американській владі, випробування проводилися спільно з розвідувальними службами США. Водночас посадовець підкреслив важливий технічний нюанс: сам факт виявлення вразливостей не означав, що модель ІІ змогла б за цей же час успішно ними скористатися або здійснити повноцінний злам.
Тестування відбувалося в межах ініціативи Anthropic під назвою Project Glasswing. У ході цього проєкту технологічні компанії об’єднують зусилля задля захисту критично важливого програмного забезпечення. Головна мета ініціативи — запобігти тяжким наслідкам для національної та суспільної безпеки, а також світової економіки, які, за побоюваннями експертів, може спричинити безконтрольне використання таких потужних моделей, як Mythos.
Реакція Конгресу та Пентагону
Про успішні та лякаюче швидкі результати випробувань стало відомо завдяки сенатору-демократу від штату Вірджинія Марку Ворнеру. Виступаючи 11 червня на слуханнях у банківському комітеті Сенату, він послався на дані керівника Агентства національної безпеки (АНБ) та Кіберкомандування США генерала Джошуа Радда.
«Цей інструмент зламав майже всі наші секретні системи не за тижні, а за години», — заявив Ворнер, наголосивши на безпрецедентній швидкості роботи нейромережі під час аналізу захищених об’єктів.
Зростання напруженості між Anthropic та Білим домом
Попри активну співпрацю з американськими спецслужбами в питаннях кібербезпеки, між Anthropic та адміністрацією Дональда Трампа зростає ідеологічна напруженість.
В Anthropic відкрито висловлюють занепокоєння тим, як саме Пентагон та військові структури планують використовувати їхні системи штучного інтелекту. У відповідь адміністрація вдається до жорстких кроків щодо обмеження застосування передових моделей. На початку червня Білий дім видав директиву, яка зобов'язує Anthropic закрити доступ до своїх новітніх розробок — моделей Fable 5 та Mythos 5 — для іноземних громадян. У самій компанії вважають такі обмежувальні заходи надмірними, що лише загострює конфлікт навколо майбутнього регулювання штучного інтелекту в США.
