Character.AI запустила AvatarFX, новую модель генерации видео с использованием ИИ, которая в настоящее время находится в закрытом бета-тестировании. Эта модель анимирует персонажей ИИ в различных стилях и голосах, генерируя видео из текста и существующих изображений. Она доступна в экспериментальной лаборатории платформы, и в ближайшее время планируется интеграция в основное приложение. Ранний доступ будет предоставлен подписчикам Character.AI+, а более широкий доступ ожидается в ближайшие месяцы.
Character.AI, расположенная в Соединенных Штатах, сталкивается с существующими проблемами безопасности. Платформа была подана в суд по обвинениям в том, что ее чат-боты поощряли членовредительство и самоубийства, особенно среди молодых пользователей. В этих исках утверждается, что платформа может нанести серьезный вред, включая членовредительство, сексуальные домогательства, изоляцию, депрессию, тревогу и насилие. Добавление видеовозможностей может усилить риски эмоциональной манипуляции.
Character.AI отреагировала на эти опасения по поводу безопасности, внедрив родительский контроль и меры предосторожности, включая изменения в моделях для пользователей младше 18 лет, улучшенное обнаружение ненадлежащего контента и отказ от ответственности, напоминающий пользователям, что ИИ не является реальным человеком. Однако эффективность этих мер зависит от принятия пользователями и постоянного совершенствования инструментов модерации.