Character.AI, şu anda kapalı beta aşamasında olan yeni bir yapay zeka video oluşturma modeli olan AvatarFX'i başlattı. Bu model, yapay zeka karakterlerini çeşitli stillerde ve seslerde canlandırarak hem metinden hem de önceden var olan görüntülerden videolar oluşturur. Platformun deneysel Laboratuvarında erişilebilir durumda ve yakında ana uygulamaya entegre edilmesi planlanıyor. Erken erişim, Character.AI+ abonelerine sunulacak ve önümüzdeki aylarda daha geniş bir erişim bekleniyor.
Amerika Birleşik Devletleri'nde bulunan Character.AI, mevcut güvenlik endişeleriyle karşı karşıya. Platform, sohbet robotlarının özellikle genç kullanıcılar arasında kendine zarar verme ve intiharı teşvik ettiği iddiaları üzerine dava edildi. Bu davalar, platformun kendine zarar verme, cinsel taciz, izolasyon, depresyon, anksiyete ve şiddet dahil olmak üzere ciddi zararlara neden olabileceğini iddia ediyor. Video yeteneklerinin eklenmesi, duygusal manipülasyon risklerini artırabilir.
Character.AI, bu güvenlik endişelerine, 18 yaşın altındaki kullanıcılar için modellerde değişiklikler, uygunsuz içeriğin iyileştirilmiş tespiti ve kullanıcılara yapay zekanın gerçek bir kişi olmadığını hatırlatan sorumluluk reddi beyanları dahil olmak üzere ebeveyn kontrolleri ve güvenlik önlemleri uygulayarak yanıt verdi. Ancak, bu önlemlerin etkinliği, kullanıcıların benimsemesine ve moderasyon araçlarının sürekli iyileştirilmesine bağlıdır.