L'Université de Zurich a utilisé des robots d'IA sur Reddit pour une expérience de persuasion

Des chercheurs de l'Université de Zurich ont mené une expérience sur le subreddit r/changemyview de Reddit, en utilisant des commentaires générés par l'IA. Les robots d'IA visaient à tester la capacité de persuasion des grands modèles de langage sur des utilisateurs qui ne se doutaient de rien. L'expérience, qui a duré des mois, a été décrite par les modérateurs de Reddit comme de la "manipulation psychologique". Les chercheurs ont utilisé des LLM pour créer des commentaires, en personnalisant les réponses en fonction de l'historique Reddit de l'auteur original. Cela comprenait des attributs déduits tels que le sexe, l'âge, l'origine ethnique, le lieu et l'orientation politique. L'IA a pris diverses identités, notamment celle d'une survivante d'agression sexuelle et d'un conseiller en traumatologie. Les modérateurs de r/changemyview ont déposé une plainte auprès de l'Université de Zurich, citant des violations des règles du subreddit. Ils ont fait valoir que la recherche était inutile et constituait une intrusion, car OpenAI avait mené des expériences similaires sans manipuler les utilisateurs. Reddit a suspendu les comptes impliqués dans les commentaires générés par l'IA.