A Character.AI lançou o AvatarFX, um novo modelo de geração de vídeo por IA atualmente em beta fechado. Este modelo anima personagens de IA em vários estilos e vozes, gerando vídeos a partir de texto e imagens pré-existentes. Ele está acessível no Laboratório experimental da plataforma, com planos para integração no aplicativo principal em breve. O acesso antecipado estará disponível para assinantes do Character.AI+, com disponibilidade mais ampla esperada nos próximos meses.
Localizada nos Estados Unidos, a Character.AI enfrenta preocupações de segurança existentes. A plataforma foi processada por alegações de que seus chatbots incentivaram a automutilação e o suicídio, especialmente entre os jovens. Essas ações judiciais alegam que a plataforma pode causar danos graves, incluindo automutilação, solicitação sexual, isolamento, depressão, ansiedade e violência. A adição de recursos de vídeo pode intensificar os riscos de manipulação emocional.
A Character.AI respondeu a essas preocupações de segurança implementando controles parentais e salvaguardas, incluindo alterações nos modelos para usuários menores de 18 anos, detecção aprimorada de conteúdo inadequado e avisos lembrando aos usuários que a IA não é uma pessoa real. No entanto, a eficácia dessas medidas depende da adoção do usuário e da melhoria contínua das ferramentas de moderação.