Искусственный интеллект развивается настолько быстро, что тревогу бьют уже не только его критики, но и люди, которые сами стояли у истоков современной AI-индустрии.
Причём важно уточнить: большинство из них выступают не против ИИ вообще. Они говорят о другом — о том, что гонка за всё более мощными моделями идёт быстрее, чем появляются понятные правила безопасности, контроля и ответственности.
Один из самых известных голосов — Джеффри Хинтон, один из «крёстных отцов» современного ИИ. После ухода из Google он стал гораздо открытее говорить о рисках: от массового вытеснения людей с рынка труда до появления систем, которые однажды могут стать сложнее для контроля, чем мы предполагаем.
Ещё один ключевой человек — Йошуа Бенжио, также один из пионеров глубокого обучения. В последние годы он всё активнее занимается вопросами безопасности ИИ и призывает государства не ждать крупных происшествий, а заранее создавать независимый надзор и ограничения для самых мощных систем.
В 2023 году Бенжио поддержал открытое письмо с призывом как минимум на полгода приостановить обучение систем мощнее GPT-4.
Среди подписантов был и Илон Маск. Он поддержал идею паузы в гонке крупнейших AI-моделей, чтобы за это время появились более надёжные правила, стандарты безопасности и способы контроля.
К этому же призыву присоединился сооснователь Apple Стив Возняк. Позже он отдельно говорил о том, что разработчики должны быть прозрачнее и нести ответственность за ущерб, который может причинить технология.
Среди наиболее известных интеллектуалов — историк и писатель Юваль Ной Харари. Он давно предупреждает, что особая опасность ИИ заключается не только в «умных машинах», но и в способности алгоритмов массово генерировать тексты, изображения и убеждающий контент. По его мнению, это может серьёзно изменить информационную среду и способы, которыми люди принимают решения.
Один из наиболее последовательных критиков бесконтрольной гонки — профессор Калифорнийского университета в Беркли Стюарт Рассел, соавтор одного из самых известных учебников по искусственному интеллекту.
Его позиция довольно проста: проблема возникает, если мы создаём системы, которые способны достигать целей эффективнее человека, но при этом не можем гарантировать, что их цели действительно совпадают с нашими.
И особенно показательно, что осторожнее стали говорить даже руководители крупнейших AI-компаний.
Глава Anthropic Дарио Амодей публично призывал к более медленному и контролируемому развитию передовых моделей, чтобы методы безопасности успевали за их возможностями. Он выступает за независимые проверки, общие стандарты и международное сотрудничество.
Даже Сэм Альтман, глава OpenAI, неоднократно говорил о необходимости регулирования наиболее мощных систем и о том, что развитие ИИ не должно превращаться в гонку, где скорость становится важнее безопасности.
Похожие идеи высказывал и глава Google DeepMind Демис Хассабис. Крупнейшие AI-компании всё чаще обсуждают совместные подходы к контролю за наиболее серьёзными рисками.
В итоге складывается довольно парадоксальная картина.
Хинтон, Бенжио, Рассел, Маск, Возняк, Харари, Амодей, Альтман и другие могут сильно расходиться в оценке масштаба угрозы и в том, насколько сильно нужно тормозить развитие. Но сходятся они в одном: оставлять сверхмощный ИИ вообще без правил — плохая идея.
При этом есть и серьёзные скептики.
Некоторые специалисты считают разговоры о «конце человечества» сильно преувеличенными и напоминают, что нынешние системы всё ещё имеют множество ограничений.
Другие подозревают, что крупным AI-компаниям выгодно поддерживать разговоры о жёстком регулировании, потому что это может усложнить жизнь небольшим конкурентам.
Поэтому вокруг темы идёт очень серьёзный спор, и единого мнения в научном сообществе нет.
Но сам факт примечателен: ещё несколько лет назад вопрос звучал как:
«Что сможет ИИ?»
Теперь всё чаще задают другой:
«А успеем ли мы научиться им управлять раньше, чем он станет слишком мощным?»
