Фонд Интернет Наблюдения (IWF) выпустил серьезное предупреждение о тревожном росте контента сексуального насилия над детьми, генерируемого ИИ, который становится все более доступным в открытых областях интернета. Только за последние шесть месяцев IWF зафиксировал больше случаев такого контента, чем за предыдущий год в целом, причем потрясающие 99 % из него были найдены в открытых пространствах, а не в даркнете.
Многие из этих изображений и видео, созданных ИИ, вызывают тревогу своей реалистичностью, что затрудняет их различение с настоящими изображениями насилия, которые по британскому законодательству классифицируются как уголовный контент. Более половины зарегистрированного контента, созданного ИИ, поступило с серверов в России и США.
Дерек Рэй-Хилл, временный исполнительный директор IWF, подчеркнул ужасные последствия материалов, генерируемых ИИ, заявив, что они наносят вред не только зрителям, но и повторно жертвам, чьи страдания эксплуатируются для удовлетворения онлайн-предаторов. Он призвал к срочным законодательным мерам для решения этой растущей цифровой угрозы.
Сотрудники правоохранительных органов, включая заместителя начальника полиции Бекки Риггс, поддержали эти опасения, подчеркивая пугающий масштаб онлайн-насилия над детьми. Они подчеркнули необходимость для технологических компаний улучшить защиту в соответствии с Законом о безопасности в интернете и внедрить более строгие правила для разработки ИИ, чтобы предотвратить создание вредоносного контента.
По мере того как цифровая среда развивается, защита детей должна иметь приоритет над прибылью, что требует немедленных и эффективных мер со стороны законодателей и технологической отрасли.