La Fundación Internet Watch (IWF) ha emitido una grave advertencia sobre el alarmante aumento del contenido de abuso sexual infantil generado por IA, que es cada vez más accesible en áreas públicas de internet. En solo los últimos seis meses, la IWF reportó más casos de dicho contenido que en el año anterior en su conjunto, con un asombroso 99 % encontrado en espacios accesibles al público en lugar de en la dark web.
Muchas de estas imágenes y videos generados por IA son inquietantemente realistas, lo que dificulta distinguirlos de las imágenes de abuso reales, que se clasifican como contenido criminal bajo la ley del Reino Unido. Más de la mitad del contenido generado por IA reportado provino de servidores en Rusia y Estados Unidos.
Derek Ray-Hill, director ejecutivo interino de la IWF, enfatizó el impacto horroroso del material generado por IA, afirmando que no solo causa daño a quienes lo ven, sino que también revictimiza a los sobrevivientes cuyos abusos son explotados para el deleite de los depredadores en línea. Hizo un llamado a una acción legislativa urgente para abordar esta creciente amenaza digital.
Los funcionarios de la ley, incluida la subcomisaria de policía Becky Riggs, coincidieron con estas preocupaciones, destacando la aterradora escala del abuso sexual infantil en línea. Subrayaron la necesidad de que las empresas tecnológicas mejoren las protecciones bajo la Ley de Seguridad en Línea e implementen regulaciones más estrictas sobre el desarrollo de IA para prevenir la generación de contenido dañino.
A medida que el paisaje digital evoluciona, la protección de los niños debe tener prioridad sobre el beneficio, lo que requiere medidas inmediatas y efectivas por parte de los legisladores y la industria tecnológica.