Se está desarrollando una crisis a nivel mundial, ya que la tecnología de IA generativa se utiliza para crear imágenes y videos sexualmente explícitos de niños. Los informes indican que se producen miles de estas imágenes diariamente, afectando potencialmente a millones de niños. Un estudio reciente del Center for Democracy and Technology reveló que el 15% de los estudiantes de secundaria informaron haber encontrado imágenes explícitas generadas por IA relacionadas con sus escuelas.
Además, un informe de las Naciones Unidas encontró que el 50% de los agentes de la ley en todo el mundo han encontrado material de abuso sexual infantil generado por IA. El aumento de la IA generativa complica la detección y eliminación de este material, ya que permite la creación rápida de nuevas imágenes abusivas que no coinciden con las bases de datos existentes de contenido conocido.
Las escuelas, por su parte, no están actualizando adecuadamente sus políticas de acoso sexual ni educando a estudiantes y padres sobre estos riesgos. Sin embargo, los expertos expresan un optimismo cauteloso, señalando que aún puede haber oportunidades para abordar esta crisis de manera efectiva.
En noticias relacionadas, OpenAI anunció la salida de altos ejecutivos, incluido su director tecnológico y su director de investigación, mientras transita de un modelo sin fines de lucro a uno con fines de lucro. Este cambio podría valorar a la empresa en 150 mil millones de dólares, lo que genera preocupaciones sobre su misión original de beneficiar a la humanidad. Los observadores sugieren que los conflictos internos sobre los motivos de lucro han llevado a cambios significativos dentro de la organización.
Además, está surgiendo el uso de anuncios políticos generados por IA, con informes de un anuncio generado por IA que ataca a un candidato a gobernador de Carolina del Norte. La Comisión Electoral Federal no ha implementado nuevas regulaciones para abordar el uso de IA en la publicidad política, lo que genera preocupaciones sobre el potencial de desinformación en las próximas elecciones.