Alors que les technologies d'intelligence artificielle générative (IA) avancent, il devient de plus en plus important de distinguer le contenu synthétique du contenu réel. En 2024, la capacité de produire des images et des vidéos réalistes à partir de simples instructions textuelles n'est plus réservée aux experts, soulevant des préoccupations concernant l'authenticité.
Les experts suggèrent que la première étape pour identifier les médias synthétiques est de maintenir à l'esprit que tout contenu pourrait potentiellement être généré par l'IA. Siwei Lyu, professeur à l'Université de Buffalo, souligne l'importance de cette prise de conscience plutôt que des indicateurs spécifiques.
Actuellement, les images générées par l'IA présentent souvent des signes révélateurs, tels que des caractéristiques humaines déformées. Cependant, à mesure que la technologie évolue, la distinction pourrait devenir moins claire. Notamment, les futurs générateurs vidéo d'OpenAI, Google et Meta compliqueront encore le processus d'identification.
Il existe deux principaux types de vidéos manipulées : les deepfakes, qui échangent des visages dans des séquences existantes, et les vidéos où l'audio est altéré pour faire dire à des individus des choses qu'ils n'ont jamais dites. Les indicateurs clés de ces manipulations incluent des mouvements faciaux non naturels et des incohérences dans le synchronisme des lèvres.
À une époque où les frontières entre réalité et fabrication s'estompent, les entreprises développent des filigranes et des métadonnées cachées pour indiquer un contenu synthétique. Les utilisateurs sont encouragés à vérifier les sources et à rester sceptiques face aux affirmations sensationnelles pour éviter la désinformation.