На глобальном уровне разворачивается кризис, так как технологии генеративного ИИ используются для создания сексуально откровенных изображений и видео детей. Сообщается, что ежедневно производится тысячи таких изображений, что потенциально затрагивает миллионы детей. Недавнее исследование Центра демократии и технологий показало, что 15% старшеклассников сообщили о встречах с изображениями, созданными ИИ, связанными с их школами.
Кроме того, отчет ООН показал, что 50% опрошенных сотрудников правоохранительных органов по всему миру столкнулись с материалами сексуального насилия в отношении детей, созданными ИИ. Увеличение генеративного ИИ усложняет обнаружение и удаление таких материалов, так как позволяет быстро создавать новые абьюзивные изображения, которые не совпадают с существующими базами данных известных материалов.
Школы, в свою очередь, не обновляют свои политики по сексуальным домогательствам и не обучают студентов и родителей этим рискам. Тем не менее, эксперты выражают осторожный оптимизм, отмечая, что все еще могут быть возможности для эффективного решения этой проблемы.
В связанных новостях OpenAI объявила о высокопрофильных уходах, включая технического директора и директора по исследованиям, в то время как компания переходит от некоммерческого к прибыльному режиму. Этот переход может оценить компанию в 150 миллиардов долларов, что вызывает опасения по поводу ее первоначальной миссии — приносить пользу человечеству. Наблюдатели предполагают, что внутренние конфликты по поводу мотивов прибыли привели к значительным изменениям внутри организации.
Кроме того, появляется использование политической рекламы, созданной ИИ, с отчетами о рекламе, сгенерированной ИИ, которая атакует кандидата на пост губернатора Северной Каролины. Федеральная избирательная комиссия не внедрила новых правил для регулирования использования ИИ в политической рекламе, что вызывает опасения по поводу потенциальной дезинформации на предстоящих выборах.