Am 7. Oktober 2024 kündigte Meta die Entwicklung eines neuen KI-Video-Synthese-Tools namens Movie Gen an, das in der Lage ist, realistische Videoclips aus Textbeschreibungen zu erstellen. Diese Technologie, obwohl bahnbrechend, birgt erhebliche Risiken im Hinblick auf die Verbreitung von Deepfakes, da sie es Nutzern ermöglichen könnte, synthetische Videos von sich selbst mit nur einem einzigen Foto zu generieren.
Im Gegensatz zu bestehenden KI-Tools kann Movie Gen längere Videos erstellen, bis zu 16 Sekunden in Full HD-Qualität, was es für Plattformen wie TikTok und Instagram geeignet macht. Die KI nutzt die umfangreiche Bilddatenbank von Meta, was Bedenken aufwirft, dass Personen ohne deren Zustimmung für Deepfake-Videos ins Visier genommen werden könnten.
Die Auswirkungen dieser Technologie sind tiefgreifend, insbesondere angesichts der bestehenden Probleme mit Deepfakes in verschiedenen Regionen, einschließlich Südkorea, wo Schüler bereits Opfer solcher Manipulationen geworden sind. Meta hat noch kein Veröffentlichungsdatum oder Nutzungsbedingungen für Movie Gen angekündigt, was auf ein Bewusstsein für die potenziellen Gefahren hinweist.