Die Internet Watch Foundation (IWF) hat eine ernste Warnung bezüglich des alarmierenden Anstiegs von KI-generierten Inhalten zum sexuellen Missbrauch von Kindern herausgegeben, die zunehmend in öffentlichen Bereichen des Internets zugänglich sind. Allein in den letzten sechs Monaten hat die IWF mehr Fälle solcher Inhalte gemeldet als im gesamten Vorjahr, wobei beeindruckende 99 % davon in öffentlich zugänglichen Räumen und nicht im Dark Web gefunden wurden.
Viele dieser KI-generierten Bilder und Videos sind erschreckend realistisch, was es schwierig macht, sie von tatsächlichen Missbrauchsbildern zu unterscheiden, die nach britischem Recht als krimineller Inhalt eingestuft werden. Mehr als die Hälfte der gemeldeten KI-generierten Inhalte stammte von Servern in Russland und den Vereinigten Staaten.
Derek Ray-Hill, kommissarischer Geschäftsführer der IWF, betonte die schrecklichen Auswirkungen von KI-generiertem Material und erklärte, dass es nicht nur den Zuschauern schadet, sondern auch Überlebende erneut zum Opfer macht, deren Missbrauch für die Befriedigung von Online-Prädatoren ausgebeutet wird. Er forderte dringend gesetzgeberische Maßnahmen, um dieser wachsenden digitalen Bedrohung zu begegnen.
Vertreter der Strafverfolgung, darunter der stellvertretende Polizeichef Becky Riggs, äußerten ähnliche Bedenken und hoben das erschreckende Ausmaß des Online-Kindesmissbrauchs hervor. Sie betonten die Notwendigkeit für Technologieunternehmen, die Schutzmaßnahmen unter dem Gesetz über Online-Sicherheit zu verbessern und strengere Vorschriften für die Entwicklung von KI einzuführen, um die Generierung schädlicher Inhalte zu verhindern.
Da sich die digitale Landschaft weiterentwickelt, muss der Schutz von Kindern Vorrang vor Gewinn haben, was sofortige und wirksame Maßnahmen von Gesetzgebern und der Technologiebranche erfordert.