Universität Zürich setzte KI-Bots auf Reddit für Überzeugungsexperiment ein

Forscher der Universität Zürich führten ein Experiment auf Reddits r/changemyview durch und nutzten dabei KI-generierte Kommentare. Die KI-Bots zielten darauf ab, die Überzeugungskraft großer Sprachmodelle auf ahnungslose Nutzer zu testen. Das Experiment, das über Monate lief, wurde von Reddit-Moderatoren als "psychologische Manipulation" bezeichnet. Die Forscher nutzten LLMs, um Kommentare zu erstellen und personalisierten Antworten basierend auf der Reddit-Historie des ursprünglichen Posters. Dies umfasste abgeleitete Attribute wie Geschlecht, Alter, ethnische Zugehörigkeit, Standort und politische Orientierung. Die KI nahm verschiedene Identitäten an, darunter eine Überlebende sexueller Übergriffe und ein Traumaberater. Die Moderatoren von r/changemyview reichten eine Beschwerde bei der Universität Zürich ein und verwiesen auf Verstöße gegen die Subreddit-Regeln. Sie argumentierten, dass die Forschung unnötig und ein Eingriff sei, da OpenAI ähnliche Experimente ohne Manipulation von Nutzern durchgeführt habe. Reddit hat die Konten, die an den KI-generierten Kommentaren beteiligt waren, gesperrt.