1 июля 2026 года Независимая международная научная группа по искусственному интеллекту при ООН опубликовала предварительный доклад. В нём подчёркивается: при продуманном внедрении ИИ способен стать мощным двигателем развития, ускоряя прогресс в здравоохранении, борьбе с голодом, образовании и климате.
Группа из 40 учёных и экспертов, назначенная Генеральной Ассамблеей ООН в феврале, подготовила первый глобальный независимый научный анализ технологии. Среди участников — профессор Университета Претории Вукоси Маривате. Доклад направлен всем правительствам и открыт для общественности.
Авторы честно отмечают и обратную сторону. Быстрое, неконтролируемое масштабирование несёт значительные риски: от вреда психическому здоровью пользователей и использования в деструктивных целях до воздействия на социальные, экономические и экологические системы. Надёжных методов сохранения контроля над высокоавтономными системами ИИ пока нет.
Особое внимание уделено концентрации мощностей. На долю США приходится 75 % вычислительных ресурсов крупнейших кластеров ИИ. Это может привести к авторитарному захвату и подрыву демократической подотчётности. Возможности ИИ уже опережают научное понимание и способность правительств адаптироваться.
Что еще интересного в докладе?
1. «Обманное поведение» ИИ (Deceptive AI) Со-председатель группы Йошуа Бенжио заявил, что ученые фиксируют всё больше случаев обманного поведения продвинутых моделей ИИ. Он прямо отметил, что наука пока не может дать гарантий, что ИИ не нанесет катастрофического ущерба в результате своих автономных действий или злонамеренного использования.
2. Языковое неравенство и медицинские ошибки В докладе подчеркивается, что современные ИИ-модели поддерживают лишь ничтожную долю из более чем 7000 языков мира. Ошибки машинного перевода на языках с низким уровнем ресурсов уже сейчас могут приводить к фатальным последствиям, например, к неправильным медицинским диагнозам и назначениям лечения.
3. Конкретные угрозы (от дипфейков до биологии)
4. «Дилемма доказательств» (Evidence dilemma) Сложность задач, которые решает ИИ, удваивается каждые несколько месяцев. Несмотря на то, что в мире уже существует более 40 различных нормативных рамок (frameworks) по управлению ИИ, они остаются разрозненными и в основном непроверенными на практике.
5. Переход к «агентным» системам и слияние технологий Панель прогнозирует скорый массовый переход к автономным «агентным» системам (agentic AI), которые смогут самостоятельно выполнять многошаговые задачи. В долгосрочной перспективе ожидается слияние ИИ с другими трансформативными технологиями, такими как квантовые вычисления и биотехнологии.
6. Экологическая прозрачность и инициатива Генсека На фоне доклада Генеральный секретарь ООН Антониу Гутерриш продвигает «Инициативу по экологической прозрачности ИИ». Она требует от компаний полного раскрытия данных об углеродном следе, потреблении воды и земле, занимаемой дата-центрами, с целью перевода индустрии на возобновляемую энергию к 2030 году.
7. Идея создания «МАГАТЭ для ИИ» В кулуарах подготовки к Женевскому диалогу всё чаще звучит мысль, что для управления технологиями, связанными с жесткой национальной безопасностью, нужно создать специализированное международное агентство по аналогии с Международным агентством по атомной энергии (МАГАТЭ).
8. Риск «цифрового колониализма» Более миллиарда людей еженедельно используют разговорный ИИ, но развивающиеся страны не имеют технической экспертизы для оценки продвинутых моделей. Из-за этого они рискуют стать просто «получателями» чужих правил, не имея права голоса в их создании, что усугубляет глобальное неравенство.
Доклад станет основой для обсуждений на первом Глобальном диалоге по управлению ИИ, который пройдёт в Женеве 6–7 июля. Форум соберёт все 193 государства-члена ООН, представителей индустрии, академии и гражданского общества.
