Character.AI 推出 AvatarFX,一種新的 AI 影片生成模型,目前處於封閉測試階段。該模型可以動畫化各種風格和聲音的 AI 角色,並從文字和預先存在的圖像生成影片。它可以在平台的實驗性實驗室中使用,並計劃很快整合到主應用程式中。Character.AI+ 訂閱者將可以提前存取,預計在未來幾個月內將更廣泛地提供。
Character.AI 位於美國,面臨著現有的安全問題。該平台因其聊天機器人鼓勵自殘和自殺(尤其是在年輕用戶中)而受到起訴。這些訴訟聲稱該平台可能造成嚴重傷害,包括自殘、性招攬、孤立、抑鬱、焦慮和暴力。影片功能的增加可能會加劇情感操縱的風險。
Character.AI 已通過實施家長控制和安全措施來回應這些安全問題,包括變更 18 歲以下使用者的模型、改進不當內容的檢測以及提醒使用者 AI 不是真人的免責聲明。但是,這些措施的有效性取決於使用者的採用和審核工具的持續改進。