Une crise se déroule à l'échelle mondiale alors que la technologie de l'IA générative est utilisée pour créer des images et des vidéos sexuellement explicites d'enfants. Des rapports indiquent que des milliers de telles images sont produites quotidiennement, affectant potentiellement des millions d'enfants. Une étude récente du Center for Democracy and Technology a révélé que 15 % des lycéens avaient rencontré des images explicites générées par l'IA liées à leurs écoles.
De plus, un rapport des Nations Unies a constaté que 50 % des agents des forces de l'ordre dans le monde ont rencontré du matériel d'abus sexuel d'enfants généré par l'IA. La montée de l'IA générative complique la détection et la suppression de ce matériel, car elle permet la création rapide de nouvelles images abusives qui ne correspondent pas aux bases de données existantes de contenu connu.
Les écoles semblent également en retard dans la mise à jour des politiques de harcèlement sexuel et dans l'éducation des étudiants et des parents sur ces risques. Cependant, des experts expriment un optimisme prudent, notant qu'il peut encore y avoir des opportunités pour traiter cette crise de manière efficace.
Dans une nouvelle connexe, OpenAI a annoncé le départ de personnalités importantes, y compris son directeur technique et son directeur de la recherche, alors qu'elle passe d'un modèle à but non lucratif à un modèle lucratif. Ce changement pourrait valoriser l'entreprise à 150 milliards de dollars, soulevant des inquiétudes quant à sa mission originale de bénéficier à l'humanité. Les observateurs suggèrent que des conflits internes sur les motifs de profit ont conduit à des changements significatifs au sein de l'organisation.
De plus, l'utilisation d'annonces politiques générées par l'IA émerge, avec des rapports d'une annonce générée par l'IA ciblant un candidat au poste de gouverneur de Caroline du Nord. La Commission électorale fédérale n'a pas mis en œuvre de nouvelles réglementations pour aborder l'utilisation de l'IA dans la publicité politique, ce qui soulève des inquiétudes quant au potentiel de désinformation lors des prochaines élections.