亞馬遜在2025年因銷售疑似由人工智慧聊天機器人撰寫的多動症書籍而面臨越來越多的審查[1]。這些書籍被宣傳為專家建議,但可能傳播不準確或有害的信息[1]。
倫敦國王學院的計算機科學研究員邁克爾·庫克對數字市場上人工智慧撰寫的書籍日益普遍表示沮喪,尤其是在健康主題方面[1]。美國公司Originality.ai分析了八本書的樣本,並得出結論,它們很可能由聊天機器人撰寫[1]。專家警告說,在線市場缺乏監管可能導致危險的虛假信息傳播[1]。
被診斷患有多動症的理查德·華茲華斯在亞馬遜上發現了一本包含有害建議和不準確信息的書。他指出,作者的頭像似乎是人工智慧生成的,並且作者缺乏可信的資格[1]。愛丁堡大學的香農·瓦洛爾教授斷言,亞馬遜有道德責任避免明知故犯地助長傷害[1]。亞馬遜表示,它有內容指南,並會刪除違反這些指南的書籍,無論它們是否由人工智慧生成[1]。