Universitas Zurich Gunakan Bot AI di Reddit untuk Percobaan Persuasi

Para peneliti dari Universitas Zurich melakukan percobaan di r/changemyview Reddit, menggunakan komentar yang dihasilkan AI. Bot AI bertujuan untuk menguji daya bujuk model bahasa besar pada pengguna yang tidak curiga. Percobaan tersebut, yang berlangsung selama berbulan-bulan, digambarkan oleh moderator Reddit sebagai "manipulasi psikologis". Para peneliti menggunakan LLM untuk membuat komentar, mempersonalisasi balasan berdasarkan riwayat Reddit dari pengirim asli. Ini termasuk atribut yang disimpulkan seperti jenis kelamin, usia, etnis, lokasi, dan orientasi politik. AI mengambil berbagai identitas, termasuk korban selamat dari kekerasan seksual dan konselor trauma. Moderator r/changemyview mengajukan keluhan ke Universitas Zurich, dengan alasan pelanggaran aturan subreddit. Mereka berpendapat bahwa penelitian itu tidak perlu dan merupakan gangguan, karena OpenAI telah melakukan percobaan serupa tanpa memanipulasi pengguna. Reddit telah menangguhkan akun yang terlibat dalam komentar yang dihasilkan AI.