В понедельник 22 страны приняли декларацию, в которой подчеркивается, что искусственный интеллект «должен оставаться под человеческим руководством, надзором и контролем». Документ также предлагает создать глобальный режим надзора за технологией.
Декларация была подписана на полях Генассамблеи ООН в Нью-Йорке. Среди подписантов — несколько европейских государств, включая Германию. Великобритания пока не присоединилась, а Франция, Италия и Польша воздержались от подписи.
Инициативу возглавили президент Финляндии Александр Стубб и премьер-министр Норвегии Йонас Гар Стёре. Они рассчитывают создать международный институт по ИИ и вовлечь в процесс США и Китай.
«Мы не паникеры, — отметил Стубб в интервью POLITICO. — Но без эффективного надзора растут риски: биологическое оружие, созданное ИИ, кибератаки агентов ИИ и автономные летальные системы».
Ни США, ни Китай к декларации не присоединились. Однако Стубб выразил надежду, что документ создаст импульс для более широкого участия. Встреча президентов Дональда Трампа и Си Цзиньпина намеченная на четверг придает теме дополнительную актуальность.
В тот же день OpenAI опубликовала предложения по глобальным техническим стандартам для передовых систем ИИ. Компания призвала США взять на себя лидерство в координации таких стандартов через Центр по стандартам и инновациям в области ИИ при Министерстве торговли.
OpenAI подчеркивает необходимость общих измерений, протоколов отчетности об инцидентах и мер по контролю за рекурсивным самоулучшением моделей. Цель — сохранить системы согласованными с человеческими ценностями и под контролем людей.
Гендиректор OpenAI Сэм Альтман планирует выступить перед Советом Безопасности ООН в среду. Какой баланс между безопасностью и инновациями удастся найти мировым державам в ближайшие дни?
Декларация и инициатива OpenAI показывают, что дискуссия о регулировании ИИ выходит на новый уровень — от национальных мер к попыткам международной координации. Пока крупные игроки остаются в стороне, но давление на поиск общих подходов растет.
