En résumé
- Un service clandestin appelé OnlyFake utilise l’intelligence artificielle pour créer de fausses pièces d’identité de haute qualité, ce qui pourrait faciliter toute une série d’activités illicites.
- OnlyFake utilise des réseaux de neurones pour générer en masse des documents avec un réalisme époustouflant, contournant les méthodes traditionnelles de détection de contrefaçon.
- Malgré son apparence d’anonymat et sa facilité d’accès, l’utilisation de ce service soulève des questions éthiques et juridiques car il pourrait être suivi par les forces de l’ordre et viole les politiques AML et KYC.
Les contrôles courants mis en œuvre pour lutter contre la fraude financière, tels que les mesures de lutte contre le blanchiment d’argent (AML) et les exigences de connaissance du client (KYC), pourraient avoir trouvé leur équivalent dans le domaine de l’intelligence artificielle (IA).
Un service clandestin appelé OnlyFake exploite les « réseaux neuronaux » pour créer de fausses pièces d’identité de haute qualité, et selon un rapport de 404 Media, n’importe qui peut obtenir instantanément de fausses pièces d’identité d’un réalisme saisissant pour seulement 15 $, ce qui pourrait faciliter une série d’activités illégales. .
Le compte original d’OnlyFake sur Telegram, sa principale plateforme client, a été fermé. Mais son nouveau compte déclare la fin de l’ère Photoshop, vantant sa capacité à produire en masse des documents à l’aide de « générateurs » avancés.
Le propriétaire du site, qui utilise le pseudonyme de John Wick, a déclaré que le service pouvait générer par lots des centaines de documents à partir d’un ensemble de données Excel.
Les images sont si bonnes que 404 Media a réussi à surmonter les mesures KYC d’OKX, un échange de crypto-monnaie qui utilise le service de vérification tiers Jumio pour vérifier les documents de ses clients. Un chercheur en cybersécurité a déclaré au média que les utilisateurs soumettaient de fausses pièces d’identité pour ouvrir des comptes bancaires et déverrouiller leurs comptes de crypto-monnaie.
Comment faire
Le service OnlyFake utilise principalement une technologie d’IA de base, mais avec une grande sophistication.
À l’aide des réseaux contradictoires génératifs (GAN), une forme d’IA, les développeurs peuvent concevoir un réseau neuronal optimisé pour tromper un autre réseau conçu pour détecter les fausses générations. Cependant, à chaque interaction, les deux réseaux évoluent et s’améliorent dans la création et la détection des deepfakes.
Une autre approche consiste à former un modèle basé sur la diffusion avec un ensemble de données massif et bien organisé d’identifiants réels. Ces modèles sont experts dans la synthèse d’images extrêmement réalistes en s’entraînant sur de vastes ensembles de données spécifiques à des éléments. Ils apprennent à reproduire les moindres détails qui rendent les contrefaçons presque impossibles à distinguer des documents authentiques, en contournant les méthodes traditionnelles de détection des contrefaçons.
Faut-il prendre le risque ?
Pour ceux qui cherchent à éviter d’avoir à utiliser leur véritable identité, OnlyFake est tentant. Mais l’utilisation du service soulève des questions à la fois éthiques et juridiques. Sous couvert d’anonymat et de facilité d’accès, ces opérations se déroulent sur un terrain très fragile.
Parce qu’elle distribue de fausses cartes d’identité en provenance de nombreux pays, dont les États-Unis, l’Italie, la Chine, la Russie, l’Argentine, la République tchèque et le Canada, cette entreprise ouvertement criminelle a certainement attiré l’attention des forces de l’ordre du monde entier.
En d’autres termes, « Big Brother » regarde peut-être déjà.
Les risques vont plus loin. Par exemple, John Wick pourrait suivre ses clients, ce qui serait catastrophique pour OnlyFake et ses utilisateurs. De plus, le nouveau groupe OnlyFake Telegram compte plus de 600 membres, dont la plupart peuvent être suivis grâce à leurs numéros de téléphone associés.
Et bien que cela soit évident, il convient de mentionner que payer OnlyFake avec les méthodes de paiement numériques traditionnelles est totalement interdit.
Bien que les paiements en cryptomonnaies offrent un niveau de confidentialité, ils ne sont pas totalement protégés contre l’exposition de l’identité. D’innombrables services prétendent pouvoir suivre les transactions en cryptomonnaies, et les monnaies numériques commencent donc à perdre l’anonymat qui leur est associé.
Et non, OnlyFake n’accepte pas le jeton de confidentialité de la crypto-monnaie Monero.
Plus important encore, l’achat d’une fausse pièce d’identité va à l’encontre des politiques AML et KYC, qui sont au moins apparemment en place pour lutter contre le financement du terrorisme et d’autres activités criminelles.
Les affaires sont peut-être en plein essor, mais la commodité rapide et bon marché vaut-elle les ramifications potentielles ?
Une réglementation en évolution
Les régulateurs tentent déjà de faire face à cette nouvelle menace. Le 29 janvier, le ministère américain du Commerce a proposé un ensemble de règles intitulées « Prendre des mesures supplémentaires pour faire face à l’urgence nationale concernant les cyberactivités malveillantes importantes ».
Le ministère souhaite exiger des fournisseurs d’infrastructures qu’ils signalent les individus étrangers qui tentent de former de grands modèles d’IA, quelle qu’en soit la raison, mais les cas dans lesquels les deepfakes pourraient être utilisés à des fins de fraude ou d’espionnage sont certainement au centre de l’attention.
Ces mesures pourraient encore ne pas suffire.
« La chute du KYC était inévitable maintenant que l’IA crée de fausses pièces d’identité qui passent facilement les vérifications », a-t-il déclaré. Sur Twitter Torsten Stüber, directeur technique de Satoshi Pay. « Il est temps de changer : si une réglementation rigoureuse est nécessaire, les gouvernements doivent abandonner la bureaucratie obsolète au profit de la technologie cryptographique, qui permet une vérification sécurisée de l’identité par des tiers. »
Bien entendu, l’utilisation de l’IA à des fins de tromperie va au-delà des fausses pièces d’identité. Désormais, les robots Telegram proposent des services allant des vidéos deepfake personnalisées, dans lesquelles les visages des personnes sont superposées à des images existantes, à la création d’images nues inexistantes de personnes, connues sous le nom de deepnudes.
Contrairement aux services précédents, ceux-ci ne nécessitent pas beaucoup de connaissances ni même de matériel puissant, ce qui rend la technologie largement disponible sans qu’il soit nécessaire de télécharger des outils d’édition d’images gratuits.
Edité par Ryan Ozawa.