Le 10 octobre 2024, les ministres de l'Union européenne se réuniront pour discuter d'un projet de loi controversé visant à lutter contre le matériel d'abus sexuel d'enfants. La législation proposée obligerait des services de messagerie tels que WhatsApp, iMessage et Signal à scanner automatiquement les messages à la recherche de contenu abusif potentiel et à signaler les résultats suspects aux autorités.
Les partisans soutiennent que la loi est essentielle pour lutter contre une augmentation de l'exploitation sexuelle des enfants et protéger les populations vulnérables. Cependant, les critiques, dont 344 chercheurs et experts juridiques, avertissent que les mesures, souvent appelées 'contrôle des discussions', pourraient enfreindre les droits fondamentaux à la vie privée et conduire à une surveillance de masse.
Anja Lehmann, professeure de cryptographie, a déclaré : 'Il n'existe aucune preuve fiable que les mesures proposées seraient efficaces.' Les professionnels du droit partagent ces préoccupations, affirmant que la loi violerait les articles 7 et 8 de la Charte des droits fondamentaux de l'UE, qui protègent le droit à la vie privée et à la protection des données.
Le projet a été confronté à l'opposition depuis son introduction en 2022, avec des versions antérieures bloquées pour des préoccupations en matière de vie privée. La dernière version comprend des révisions mineures mais ne traite pas des problèmes fondamentaux, selon les critiques.
Les experts soulignent que la seule méthode réalisable pour le filtrage de contenu impliquerait un 'scan côté client', ce qui compromet l'encryption de bout en bout. Lehmann a comparé cela à l'État observant les individus pendant qu'ils écrivent des lettres, sapant ainsi la vie privée des communications.
Des préoccupations concernant l'efficacité de la technologie de scan alimentée par l'IA ont également été soulevées, avec des avertissements sur des taux élevés de faux positifs et un potentiel d'exploitation par des criminels. De plus, il existe des craintes de 'glissement de mission', où la technologie pourrait s'étendre à la surveillance d'autres types de contenu, conduisant à un État de surveillance.
Le résultat de la réunion reste incertain, les opposants comme l'Allemagne pouvant potentiellement rassembler suffisamment de voix pour bloquer le projet. Les Pays-Bas ont déjà déclaré qu'ils ne soutiendraient pas le projet en raison de préoccupations relatives aux droits fondamentaux.