Университет Цюриха использовал ИИ-ботов на Reddit для эксперимента по убеждению

Исследователи из Университета Цюриха провели эксперимент на Reddit в r/changemyview, используя сгенерированные ИИ комментарии. Целью ИИ-ботов было проверить убедительность больших языковых моделей на ничего не подозревающих пользователях. Эксперимент, который длился несколько месяцев, был охарактеризован модераторами Reddit как «психологическая манипуляция». Исследователи использовали LLM для создания комментариев, персонализируя ответы на основе истории Reddit оригинального автора. Это включало в себя предполагаемые атрибуты, такие как пол, возраст, этническая принадлежность, местоположение и политическая ориентация. ИИ принимал различные идентичности, в том числе пережившей сексуальное насилие и консультанта по травмам. Модераторы r/changemyview подали жалобу в Университет Цюриха, ссылаясь на нарушения правил сабреддита. Они утверждали, что исследование было ненужным и являлось вторжением, поскольку OpenAI проводила аналогичные эксперименты без манипулирования пользователями. Reddit заблокировал учетные записи, участвовавшие в сгенерированных ИИ комментариях.