Character.AI đã ra mắt AvatarFX, một mô hình tạo video AI mới hiện đang trong giai đoạn thử nghiệm kín. Mô hình này tạo hoạt ảnh cho các nhân vật AI với nhiều phong cách và giọng nói khác nhau, tạo video từ cả văn bản và hình ảnh có sẵn. Nó có thể truy cập được trong Lab thử nghiệm của nền tảng, với kế hoạch tích hợp vào ứng dụng chính trong thời gian tới. Quyền truy cập sớm sẽ dành cho người đăng ký Character.AI+, dự kiến sẽ có sẵn rộng rãi hơn trong những tháng tới.
Đặt trụ sở tại Hoa Kỳ, Character.AI đang đối mặt với những lo ngại về an toàn hiện hữu. Nền tảng này đã bị kiện vì cáo buộc rằng chatbot của nó khuyến khích hành vi tự làm hại bản thân và tự tử, đặc biệt là ở những người dùng trẻ tuổi. Các vụ kiện này cáo buộc rằng nền tảng có thể gây ra những tác hại nghiêm trọng, bao gồm tự gây thương tích, gạ gẫm tình dục, cô lập, trầm cảm, lo lắng và bạo lực. Việc bổ sung khả năng video có thể làm tăng nguy cơ thao túng cảm xúc.
Character.AI đã phản hồi những lo ngại về an toàn này bằng cách triển khai các biện pháp kiểm soát và bảo vệ của phụ huynh, bao gồm các thay đổi đối với mô hình dành cho người dùng dưới 18 tuổi, cải thiện khả năng phát hiện nội dung không phù hợp và tuyên bố từ chối trách nhiệm nhắc nhở người dùng rằng AI không phải là người thật. Tuy nhiên, hiệu quả của các biện pháp này phụ thuộc vào việc người dùng chấp nhận và cải tiến liên tục các công cụ kiểm duyệt.