Les capacités de l’IA générative à créer des images réalistes sont impressionnantes, mais le Federal Bureau of Investigation des États-Unis affirme que les criminels utilisent des deepfakes pour extorquer de l’argent à leurs victimes.
« Le FBI continue de recevoir des signalements de victimes, y compris des enfants mineurs et des adultes non consentants, dont les photos ou vidéos ont été modifiées pour les rendre explicites », a déclaré l’agence dans une alerte PSA lundi.
Le FBI affirme que les forces de l’ordre ont reçu plus de 7 000 plaintes d’extorsion en ligne dirigées contre des mineurs l’année dernière, avec une augmentation du nombre de victimes de soi-disant « escroqueries à la sextorsion » utilisant des deepfakes depuis avril.
Un deepfake est un type de plus en plus courant de contenu vidéo ou audio créé par l’intelligence artificielle qui décrit de faux événements qu’il est de plus en plus difficile de discerner comme faux, grâce à des plateformes d’IA génératives telles que Midjourney 5.1 et DALL-E 2 d’OpenAI.
En mai, un deepfake du PDG de Tesla et Twitter, Elon Musk, conçu pour escroquer les investisseurs en crypto-monnaie, est devenu viral. La vidéo partagée sur les réseaux sociaux contenait des images de Musk d’interviews précédentes, éditées pour s’adapter à l’arnaque.
Tous les deepfakes ne sont pas malveillants : un deepfake du pape François dans une veste Balenciaga blanche est devenu viral plus tôt cette année, et plus récemment, des deepfakes générés par l’IA ont également été utilisés pour ramener à la vie des victimes de meurtre.
Dans ses recommandations, le FBI met en garde contre le paiement de toute rançon, car cela ne garantit pas que les criminels ne publieront pas le deepfake de toute façon.
Le FBI recommande également la prudence lors du partage d’informations personnelles et de contenu en ligne, y compris l’utilisation de fonctionnalités de confidentialité telles que la confidentialité des comptes, la surveillance de l’activité en ligne des enfants et la surveillance des comportements inhabituels des personnes avec lesquelles vous avez interagi dans le passé. L’agence recommande également des recherches fréquentes sur Internet pour des informations personnelles et familiales.
Parmi les autres agences qui tirent la sonnette d’alarme, citons la Federal Trade Commission des États-Unis, qui a averti que les criminels utilisaient des deepfakes pour inciter des victimes sans méfiance à envoyer de l’argent après avoir créé un deepfake audio d’un ami. ou un membre de la famille qui déclare avoir été kidnappé.
« L’intelligence artificielle n’est plus une idée folle tout droit sortie d’un film de science-fiction. Nous vivons avec elle, ici et maintenant. Un escroc pourrait utiliser l’IA pour cloner la voix de votre bien-aimé », a déclaré la FTC dans une alerte aux consommateurs en March, ajoutant que tout ce dont le délinquant a besoin est un court extrait audio de la voix d’un membre de la famille pour que l’enregistrement semble réel.
Le FBI n’a pas encore répondu à une demande de commentaire de Décrypter.