Модель искусственного интеллекта Mythos, разработанная компанией Anthropic, в ходе тестовых учений выявила уязвимости в особо чувствительных и засекреченных компьютерных системах правительства США. По словам американских чиновников, на обнаружение этих брешей в защите у алгоритма ушло всего несколько часов, тогда как в обычных условиях этот процесс занимает недели.
Детали испытаний и инициатива Project Glasswing
Как сообщил агентству Associated Press анонимный представитель американских властей, испытания проводились совместно с разведывательными службами США. При этом чиновник подчеркнул важный технический нюанс: сам факт обнаружения уязвимостей не означал, что модель ИИ смогла бы за это же время успешно ими воспользоваться или осуществить полноценный взлом.
Тестирование проходило в рамках инициативы Anthropic под названием Project Glasswing. В ходе этого проекта технологические компании объединяют усилия для защиты критически важного программного обеспечения. Главная цель инициативы — предотвратить тяжелые последствия для национальной и общественной безопасности, а также для мировой экономики, которые, по опасениям экспертов, может повлечь за собой бесконтрольное использование столь мощных моделей, как Mythos.
Реакция Конгресса и Пентагона
Об успешных и пугающе быстрых испытаниях стало известно благодаря сенатору-демократу от штата Вирджиния Марку Уорнеру. Выступая 11 июня на слушаниях в банковском комитете Сената, он сослался на данные руководителя Агентства национальной безопасности (АНБ) и Киберкомандования США генерала Джошуа Радда.
«Этот инструмент взломал почти все наши секретные системы не за недели, а за часы», — заявил Уорнер, отметив беспрецедентную скорость работы нейросети при анализе защищенных объектов.
Растущее напряжение между Anthropic и Белым домом
Несмотря на активное сотрудничество с американскими спецслужбами в вопросах кибербезопасности, между Anthropic и администрацией Дональда Трампа нарастает идеологическая напряженность.
В Anthropic открыто выражают обеспокоенность тем, как именно Пентагон и военные структуры планируют использовать их системы ИИ. В ответ администрация предпринимает жесткие шаги по ограничению применения передовых моделей. В начале июня Белый дом выпустил директиву, предписывающую Anthropic закрыть доступ к своим новейшим разработкам — моделям Fable 5 и Mythos 5 — для иностранных граждан. В самой компании считают подобные ограничительные меры чрезмерными, что только обостряет конфликт вокруг будущего регулирования искусственного интеллекта в США.
