Les escroqueries par deepfake ciblent de plus en plus les investisseurs aux États-Unis, la technologie de l'IA permettant aux fraudeurs de créer des impersonations convaincantes de personnalités publiques comme Elon Musk. Un cas récent a impliqué une travailleuse de la santé qui a perdu plus de 10 000 $ après avoir été trompée par une publicité deepfake pour un investissement en cryptomonnaie.
Selon Deloitte, les escroqueries générées par l'IA ont contribué à plus de 12 milliards de dollars de pertes dues à la fraude l'année dernière, avec des projections suggérant que ce chiffre pourrait atteindre 40 milliards de dollars d'ici 2027. La Federal Trade Commission a émis des avertissements sur l'augmentation de ces escroqueries, en particulier celles exploitant des célébrités en raison de leur visibilité.
Les experts notent que créer des deepfakes est devenu plus facile, ne nécessitant qu'une seule image et un clip vidéo. Bien que certains deepfakes soient détectables en raison de mouvements non naturels, les avancées technologiques rendent leur identification de plus en plus difficile.
Dans un contexte plus large, l'IA générative transforme le paysage pour les fraudeurs. Un rapport de GASA & Feedzai a souligné que la fraude bancaire a entraîné des pertes mondiales de 1 trillion de dollars. Les fraudeurs peuvent désormais créer de fausses identités et utiliser du contenu généré par l'IA pour renforcer leur crédibilité, compliquant ainsi le processus de détection pour les banques.
Les institutions financières sont invitées à adopter des systèmes de détection de fraude avancés alimentés par l'IA pour analyser les données de transaction en temps réel, leur permettant de découvrir des modèles cachés et de répondre plus efficacement à la fraude potentielle. La collaboration entre les banques et les fintechs est également soulignée pour renforcer les défenses contre la fraude transfrontalière.