Google Photos va désormais ajouter des filigranes aux images modifiées à l'aide de sa fonction Magic Editor, basée sur l'intelligence artificielle, afin d'accroître la transparence dans l'édition d'images. Magic Editor, lancé en 2024 pour les appareils Pixel 9, permet aux utilisateurs d'utiliser la fonction Reimagine pour modifier des images à l'aide de l'IA. Ce type d'édition numérique, utilisant des algorithmes avancés, permet de modifier des aspects tels que l'arrière-plan ou même des éléments visuels majeurs d'une image.
Bien que cette technologie améliore l'expérience utilisateur en permettant des retouches rapides et créatives, elle soulève des questions sur la frontière entre les photos réalistes et les images entièrement générées par l'IA. Google vise à répondre à ces préoccupations en ajoutant un filigrane à toutes les photos modifiées à l'aide de Reimagine.
Pour lutter contre la confusion croissante liée à la manipulation d'images, Google a introduit un filigrane numérique qui sera automatiquement intégré aux photos éditées avec Magic Editor. Ce filigrane ne modifie pas l'image elle-même, mais est subtilement inséré dans les métadonnées du fichier. Ce système permet de suivre et de vérifier l'origine d'une photo sans affecter son apparence visuelle.
Le système de filigranes utilisé par Google s'appelle SynthID. Développé par la division DeepMind de Google, SynthID est une technologie qui insère un marqueur numérique dans le contenu généré par l'IA. Il peut distinguer les images modifiées par l'IA des photos authentiques tout en maintenant l'intégrité du fichier original. En plus d'être intégré aux photos, SynthID peut également être utilisé pour détecter des marques invisibles dans les images, les vidéos ou même les textes générés par l'IA.
Cette initiative de filigrane s'inscrit dans une démarche plus large de Google pour promouvoir la transparence dans l'utilisation de l'IA. La société souligne que l'intégration du filigrane est une réponse à la demande croissante d'un mécanisme de traçabilité des images générées par l'IA. En cliquant sur l'option « À propos de cette image », les utilisateurs peuvent facilement localiser les informations liées à ce filigrane dans les métadonnées de l'image. Google précise que certaines petites modifications apportées à une image, comme le changement de couleur d'un petit élément, pourraient ne pas activer le filigrane, car celles-ci sont jugées insuffisantes pour déclencher une détection par SynthID.