Character.AI telah meluncurkan AvatarFX, model pembuatan video AI baru yang saat ini dalam beta tertutup. Model ini menganimasikan karakter AI dalam berbagai gaya dan suara, menghasilkan video dari teks dan gambar yang sudah ada. Model ini dapat diakses di Lab eksperimental platform, dengan rencana integrasi ke aplikasi utama segera. Akses awal akan tersedia untuk pelanggan Character.AI+, dengan ketersediaan yang lebih luas diharapkan dalam beberapa bulan mendatang.
Berlokasi di Amerika Serikat, Character.AI menghadapi kekhawatiran keamanan yang ada. Platform ini telah digugat atas tuduhan bahwa chatbot-nya mendorong tindakan menyakiti diri sendiri dan bunuh diri, terutama di kalangan pengguna muda. Tuntutan hukum ini menuduh bahwa platform tersebut dapat menyebabkan bahaya serius, termasuk mutilasi diri, ajakan seksual, isolasi, depresi, kecemasan, dan kekerasan. Penambahan kemampuan video dapat meningkatkan risiko manipulasi emosional.
Character.AI telah menanggapi kekhawatiran keamanan ini dengan menerapkan kontrol orang tua dan perlindungan, termasuk perubahan pada model untuk pengguna di bawah 18 tahun, peningkatan deteksi konten yang tidak pantas, dan penafian yang mengingatkan pengguna bahwa AI bukanlah orang sungguhan. Namun, efektivitas langkah-langkah ini bergantung pada adopsi pengguna dan peningkatan berkelanjutan alat moderasi.