Amazonは2025年、AIチャットボットによって書かれたと思われるADHDに関する書籍の販売で、監視の目が厳しくなっています[1]。これらの書籍は専門家のアドバイスとして販売されていますが、不正確または有害な情報を広める可能性があります[1]。
キングス・カレッジ・ロンドンのコンピューター科学研究者であるマイケル・クック氏は、デジタル・マーケットプレイスにおけるAI執筆書籍の普及、特に健康に関するトピックについて、不満を表明しました[1]。米国の企業であるOriginality.aiは、8冊の書籍からサンプルを分析し、それらがチャットボットによって書かれた可能性が高いと結論付けました[1]。専門家は、オンライン・マーケットプレイスにおける規制の欠如が、危険な誤情報の拡散につながる可能性があると警告しています[1]。
ADHDと診断されたリチャード・ワーズワース氏は、Amazonで有害なアドバイスと不正確な情報を含む書籍を発見しました。彼は、著者の顔写真がAIによって生成されたように見え、著者が信頼できる資格を持っていないことに気づきました[1]。エディンバラ大学のシャノン・バラー教授は、Amazonには意図的に危害を加えることを助長しない倫理的責任があると主張しました[1]。Amazonは、コンテンツ・ガイドラインがあり、AIによって生成されたかどうかにかかわらず、それらに違反する書籍を削除すると述べています[1]。