Eine Krise entfaltet sich weltweit, da die Technologie der generativen KI genutzt wird, um sexuell explizite Bilder und Videos von Kindern zu erstellen. Berichten zufolge werden täglich Tausende solcher Bilder produziert, was potenziell Millionen von Kindern betrifft. Eine aktuelle Studie des Center for Democracy and Technology ergab, dass 15 % der Schüler in der Oberstufe von KI-generierten expliziten Bildern gehört haben, die mit ihren Schulen verbunden sind.
Darüber hinaus stellte ein Bericht der Vereinten Nationen fest, dass 50 % der weltweit befragten Strafverfolgungsbehörden auf KI-generiertes Material zum sexuellen Missbrauch von Kindern gestoßen sind. Der Anstieg der generativen KI erschwert die Erkennung und Entfernung von solchem Material, da sie die schnelle Erstellung neuer missbräuchlicher Bilder ermöglicht, die nicht mit bestehenden Datenbanken bekannter Inhalte übereinstimmen.
Schulen scheinen zudem hinterherzuhinken, wenn es darum geht, Richtlinien zum sexuellen Missbrauch zu aktualisieren und Schüler sowie Eltern über diese Risiken aufzuklären. Experten äußern jedoch vorsichtigen Optimismus und bemerken, dass es möglicherweise noch Chancen gibt, diese Krise effektiv anzugehen.
In verwandten Nachrichten kündigte OpenAI hochkarätige Abgänge an, darunter den technischen Direktor und den Forschungsdirektor, während das Unternehmen von einem gemeinnützigen zu einem gewinnorientierten Modell wechselt. Dieser Wechsel könnte das Unternehmen auf 150 Milliarden Dollar bewerten und wirft Bedenken hinsichtlich seiner ursprünglichen Mission auf, der Menschheit zu nützen. Beobachter deuten darauf hin, dass interne Konflikte über Gewinnmotive zu erheblichen Veränderungen innerhalb der Organisation geführt haben.
Darüber hinaus taucht der Einsatz von KI-generierten politischen Anzeigen auf, mit Berichten über eine KI-generierte Anzeige, die einen Kandidaten für das Gouverneursamt in North Carolina angreift. Die Bundeswahlkommission hat keine neuen Vorschriften erlassen, um die Verwendung von KI in politischen Anzeigen zu regeln, was Besorgnis über das Potenzial von Fehlinformationen bei den bevorstehenden Wahlen aufwirft.