Character.AIは、現在クローズドベータ版である新しいAIビデオ生成モデルAvatarFXを発表しました。このモデルは、さまざまなスタイルと声でAIキャラクターをアニメーション化し、テキストと既存の画像の両方からビデオを生成します。プラットフォームの実験的なラボでアクセスでき、まもなくメインアプリに統合される予定です。早期アクセスはCharacter.AI+のサブスクライバーが利用でき、今後数か月でより広く利用できるようになる予定です。
米国に拠点を置くCharacter.AIは、既存の安全性の懸念に直面しています。プラットフォームは、そのチャットボットが特に若いユーザーの間で自傷行為や自殺を助長したという申し立てで訴えられています。これらの訴訟は、プラットフォームが自傷行為、性的勧誘、孤立、うつ病、不安、暴力を含む深刻な危害を引き起こす可能性があると主張しています。ビデオ機能の追加は、感情的な操作のリスクを高める可能性があります。
Character.AIは、18歳未満のユーザー向けのモデルの変更、不適切なコンテンツの検出の改善、AIが実在の人物ではないことをユーザーに思い出させる免責事項など、ペアレンタルコントロールと安全対策を実施することで、これらの安全性の懸念に対応してきました。ただし、これらの対策の有効性は、ユーザーの採用とモデレーションツールの継続的な改善にかかっています。