Character.AI hat AvatarFX auf den Markt gebracht, ein neues KI-Videogenerierungsmodell, das sich derzeit in der geschlossenen Beta-Phase befindet. Dieses Modell animiert KI-Charaktere in verschiedenen Stilen und mit unterschiedlichen Stimmen und generiert Videos aus Text und bereits vorhandenen Bildern. Es ist im experimentellen Lab der Plattform zugänglich, wobei die Integration in die Haupt-App in Kürze geplant ist. Früher Zugriff wird Character.AI+ Abonnenten zur Verfügung stehen, eine breitere Verfügbarkeit wird in den kommenden Monaten erwartet.
Character.AI mit Sitz in den Vereinigten Staaten ist mit bestehenden Sicherheitsbedenken konfrontiert. Die Plattform wurde wegen Vorwürfen verklagt, ihre Chatbots hätten Selbstverletzung und Selbstmord gefördert, insbesondere bei jungen Nutzern. Diese Klagen behaupten, dass die Plattform ernsthaften Schaden verursachen kann, einschließlich Selbstverstümmelung, sexueller Anmache, Isolation, Depressionen, Angstzuständen und Gewalt. Die Hinzufügung von Videofunktionen könnte die Risiken emotionaler Manipulation verstärken.
Character.AI hat auf diese Sicherheitsbedenken reagiert, indem es Kindersicherungen und Schutzmaßnahmen implementiert hat, darunter Änderungen an Modellen für Benutzer unter 18 Jahren, eine verbesserte Erkennung unangemessener Inhalte und Haftungsausschlüsse, die Benutzer daran erinnern, dass die KI keine echte Person ist. Die Wirksamkeit dieser Maßnahmen hängt jedoch von der Akzeptanz durch die Benutzer und der kontinuierlichen Verbesserung der Moderationstools ab.