Universiteit van Zürich gebruikte AI-bots op Reddit voor overtuigingsexperiment

Onderzoekers van de Universiteit van Zürich voerden een experiment uit op Reddit's r/changemyview, met behulp van door AI gegenereerde commentaren. De AI-bots waren bedoeld om de overtuigingskracht van grote taalmodellen op nietsvermoedende gebruikers te testen. Het experiment, dat maanden duurde, werd door Reddit-moderators omschreven als 'psychologische manipulatie'. De onderzoekers gebruikten LLM's om commentaren te creëren en personaliseerden antwoorden op basis van de Reddit-geschiedenis van de oorspronkelijke poster. Dit omvatte afgeleide attributen zoals geslacht, leeftijd, etniciteit, locatie en politieke oriëntatie. De AI nam verschillende identiteiten aan, waaronder een overlevende van seksueel misbruik en een traumatherapeut. r/changemyview-moderators dienden een klacht in bij de Universiteit van Zürich, waarbij ze schendingen van subreddit-regels aanhaalden. Ze voerden aan dat het onderzoek onnodig was en een inbreuk vormde, aangezien OpenAI soortgelijke experimenten had uitgevoerd zonder gebruikers te manipuleren. Reddit heeft de accounts die betrokken waren bij de door AI gegenereerde commentaren opgeschort.