Amazon menghadapi pengawasan yang meningkat pada tahun 2025 karena penjualan buku tentang ADHD yang tampaknya ditulis oleh chatbot AI [1]. Buku-buku ini dipasarkan sebagai saran ahli tetapi dapat menyebarkan informasi yang tidak akurat atau berbahaya [1].
Michael Cook, seorang peneliti ilmu komputer di King's College London, menyatakan frustrasinya dengan meningkatnya prevalensi buku yang ditulis AI di pasar digital, terutama mengenai topik kesehatan [1]. Originality.ai, sebuah perusahaan AS, menganalisis sampel dari delapan buku dan menyimpulkan bahwa buku-buku tersebut kemungkinan ditulis oleh chatbot [1]. Para ahli memperingatkan bahwa kurangnya regulasi di pasar online dapat menyebabkan penyebaran informasi yang salah dan berbahaya [1].
Richard Wordsworth, yang didiagnosis dengan ADHD, menemukan sebuah buku di Amazon yang berisi saran dan ketidakakuratan yang berbahaya. Dia mencatat bahwa foto kepala penulis tampak dibuat oleh AI dan bahwa penulis tidak memiliki kualifikasi yang kredibel [1]. Profesor Shannon Vallor, dari Universitas Edinburgh, menegaskan bahwa Amazon memiliki tanggung jawab etis untuk menghindari memfasilitasi bahaya secara sadar [1]. Amazon menyatakan bahwa mereka memiliki pedoman konten dan menghapus buku yang melanggarnya, terlepas dari apakah buku tersebut dibuat oleh AI [1].