La Fondation Internet Watch (IWF) a lancé un avertissement grave concernant l'augmentation alarmante des contenus d'abus sexuels d'enfants générés par l'IA, de plus en plus accessibles sur les zones publiques d'Internet. Au cours des six derniers mois, l'IWF a signalé plus de cas de tels contenus que durant l'année précédente, avec un impressionnant 99 % d'entre eux trouvés dans des espaces accessibles au public plutôt que sur le dark web.
Bon nombre de ces images et vidéos générées par l'IA sont troublantes de réalisme, rendant difficile la distinction avec les véritables images d'abus, qui sont classées comme contenu criminel en vertu de la loi britannique. Plus de la moitié des contenus générés par l'IA signalés provenaient de serveurs en Russie et aux États-Unis.
Derek Ray-Hill, directeur exécutif par intérim de l'IWF, a souligné l'impact horrible de ce matériel généré par l'IA, affirmant qu'il nuit non seulement aux spectateurs mais aussi aux survivants dont les abus sont exploités pour le plaisir des prédateurs en ligne. Il a appelé à une action législative urgente pour faire face à cette menace numérique croissante.
Des responsables des forces de l'ordre, y compris le chef adjoint de la police Becky Riggs, ont fait écho à ces préoccupations, soulignant l'ampleur effrayante des abus sexuels d'enfants en ligne. Ils ont insisté sur la nécessité pour les entreprises technologiques d'améliorer les protections en vertu de la Loi sur la sécurité en ligne et d'implémenter des réglementations plus strictes sur le développement de l'IA pour prévenir la génération de contenus nuisibles.
Alors que le paysage numérique évolue, la protection des enfants doit primer sur le profit, nécessitant des mesures immédiates et efficaces de la part des législateurs et de l'industrie technologique.