Character.AI ने AvatarFX लॉन्च किया है, जो एक नया AI वीडियो जनरेशन मॉडल है जो वर्तमान में क्लोज्ड बीटा में है। यह मॉडल विभिन्न शैलियों और आवाजों में AI पात्रों को एनिमेट करता है, और टेक्स्ट और पहले से मौजूद छवियों दोनों से वीडियो उत्पन्न करता है। यह प्लेटफ़ॉर्म की प्रायोगिक लैब में उपलब्ध है, और जल्द ही इसे मुख्य ऐप में एकीकृत करने की योजना है। Character.AI+ ग्राहकों के लिए शुरुआती एक्सेस उपलब्ध होगा, और आने वाले महीनों में यह व्यापक रूप से उपलब्ध होने की उम्मीद है।
संयुक्त राज्य अमेरिका में स्थित Character.AI को मौजूदा सुरक्षा चिंताओं का सामना करना पड़ रहा है। प्लेटफ़ॉर्म पर आरोप है कि इसके चैटबॉट ने आत्म-नुकसान और आत्महत्या को प्रोत्साहित किया, खासकर युवा उपयोगकर्ताओं के बीच। इन मुकदमों में आरोप लगाया गया है कि प्लेटफ़ॉर्म गंभीर नुकसान पहुंचा सकता है, जिसमें आत्म-उत्पीड़न, यौन उत्पीड़न, अलगाव, अवसाद, चिंता और हिंसा शामिल है। वीडियो क्षमताओं के जुड़ने से भावनात्मक हेरफेर का खतरा बढ़ सकता है।
Character.AI ने माता-पिता के नियंत्रण और सुरक्षा उपायों को लागू करके इन सुरक्षा चिंताओं का जवाब दिया है, जिसमें 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए मॉडल में बदलाव, अनुचित सामग्री का बेहतर पता लगाना और उपयोगकर्ताओं को यह याद दिलाने वाले अस्वीकरण शामिल हैं कि AI वास्तविक व्यक्ति नहीं है। हालाँकि, इन उपायों की प्रभावशीलता उपयोगकर्ता अपनाने और मॉडरेशन टूल में निरंतर सुधार पर निर्भर करती है।