С 2 февраля 2025 года Европейский Союз внедрил регулирование, запрещающее ИИ-системы, которые считаются "неприемлемо рискованными". Это часть комплексной регуляторной структуры ЕС по ИИ, известной как Закон о ИИ ЕС, который вступил в силу 1 августа 2024 года.
Закон классифицирует приложения ИИ на четыре уровня риска: минимальный, ограниченный, высокий и неприемлемый. Системы с минимальным риском, такие как фильтры спама в электронной почте, не подлежат контролю, в то время как приложения с неприемлемым риском, такие как те, которые используют социальный рейтинг или манипулируют решениями, полностью запрещены.
Компании, использующие эти запрещенные ИИ-приложения, могут столкнуться с штрафами до 35 миллионов евро (примерно 36 миллионов долларов) или 7% от их годового дохода, в зависимости от того, какая сумма больше. Однако применение этих штрафов начнется после переходного периода.
Более 100 компаний, включая Amazon и Google, подписали Пакт о ИИ ЕС в сентябре 2024 года, обязавшись соблюдать принципы Закона о ИИ. Однако Meta и Apple не подписали этот пакт и должны соблюдать регламенты.
Европейская комиссия планирует опубликовать дополнительные руководящие принципы в начале 2025 года для облегчения реализации закона, после консультаций с заинтересованными сторонами.