Les vidéos virales de l'IA « Stranger Things » soulèvent de nouvelles inquiétudes concernant les Deepfakes

Une vidéo virale prétendument réalisée avec Motion Control 2.6 de Kling AI a fait sensation sur les réseaux sociaux cette semaine, lorsqu'un clip du créateur de contenu brésilien Eder Xavier le montrait échangeant de manière transparente son visage et son corps avec ceux des acteurs de Stranger Things Millie Bobby Brown, David Harbour et Finn Wolfhard.

Les vidéos se sont largement répandues sur les plateformes sociales et ont été visionnées plus de 14 millions de fois sur X, avec des versions supplémentaires publiées depuis. Les clips ont également attiré l'attention des technologues, dont Justine Moore, partenaire d'a16z, qui a partagé la vidéo du compte Instagram de Xavier.

« Nous ne sommes pas préparés à la rapidité avec laquelle les processus de production vont changer avec l'IA », a écrit Moore. « Certains des derniers modèles vidéo ont des implications immédiates pour Hollywood. Des échanges de personnages sans fin à un coût négligeable. »

Alors que les outils de génération d'images et de vidéos continuent de s'améliorer, avec des modèles plus récents comme Kling, Veo 3.1 de Google et Nano Banana, FaceFusion et Sora 2 d'OpenAI élargissant l'accès à des médias synthétiques de haute qualité, les chercheurs préviennent que les techniques vues dans les clips viraux se propageront probablement rapidement au-delà des démonstrations isolées.

Une pente glissante

Alors que les téléspectateurs ont été étonnés par la qualité des vidéos d’échange de corps, les experts préviennent que cela deviendra sans aucun doute un outil d’escroquerie par phishing.

« Les vannes sont ouvertes. Il n'a jamais été aussi simple de voler l'image numérique d'un individu – sa voix, son visage – et maintenant de lui donner vie avec une seule image. Personne n'est en sécurité », a-t-il déclaré. Décrypter Emmanuelle Saliba, directrice de recherche chez GetReal Security, société de cybersécurité.

« Nous allons commencer à voir des abus systémiques à toutes les échelles, depuis l'ingénierie sociale individuelle jusqu'aux campagnes de désinformation coordonnées et aux attaques directes contre des entreprises et des institutions critiques », a-t-il déclaré.

Selon Saliba, les vidéos virales mettant en vedette les acteurs de Stranger Things montrent à quel point les barrières contre les abus sont actuellement fragiles.

« Pour seulement quelques dollars, n'importe qui peut désormais générer des vidéos du corps entier d'un homme politique, d'une célébrité, d'un PDG ou d'un particulier en utilisant une seule image », a-t-il noté. « Il n'y a pas de protection par défaut de l'image numérique d'une personne. Il n'y a aucune garantie d'identité. »

Pour Yu Chen, professeur de génie électrique et informatique à l'Université de Binghamton, l'échange de personnages complets va au-delà de la manipulation du visage uniquement utilisée dans les outils deepfake précédents et introduit de nouveaux défis.

« L'échange de personnages complets représente une augmentation significative des capacités des médias synthétiques », a ajouté Chen. Décrypter. « Ces systèmes doivent gérer simultanément l'estimation de la pose, le suivi du squelette, le transfert de vêtements et de textures, ainsi que la synthèse de mouvements naturels à travers la forme humaine. »

En plus de Stranger Things, les créateurs ont également publié des vidéos de Leonard DiCaprio échangé du corps du film Le Loup de Wall Street.

« Les technologies deepfake précédentes fonctionnaient principalement dans un espace de manipulation limité, se concentrant sur le remplacement de la région du visage tout en laissant le reste du cadre largement intact », a expliqué Chen. « Les méthodes de détection pourraient exploiter les incohérences des limites entre le visage synthétique et le corps d'origine, ainsi que les artefacts temporels lorsque les mouvements de la tête ne s'alignaient pas naturellement avec les mouvements du corps. »

Chen a ajouté que : « Même si la fraude financière et les escroqueries par phishing restent préoccupantes, plusieurs autres vecteurs d'utilisation abusive méritent notre attention. Les images intimes non consensuelles représentent le vecteur de préjudice le plus immédiat, car ces outils abaissent les barrières techniques à la création de contenu synthétique explicite avec de vraies personnes.

Parmi les autres menaces soulignées par Saliba et Chen figurent la désinformation politique et l'espionnage industriel, avec des escrocs se faisant passer pour des employés ou des PDG, publiant des clips fabriqués de toutes pièces, contournant les contrôles et récoltant des informations d'identification par le biais d'attaques dans lesquelles « une personne crédible sur vidéo réduit les soupçons suffisamment longtemps pour accéder à l'intérieur d'une entreprise critique », a déclaré Saliba.

On ne sait pas exactement comment les studios ou les acteurs représentés dans les vidéos réagiront, mais Chen a déclaré que, comme les clips reposent sur des modèles d'IA accessibles au public, les développeurs jouent un rôle crucial dans la mise en œuvre des mesures de protection.

Cependant, la responsabilité, a-t-il ajouté, devrait être partagée entre les plateformes, les législateurs et les utilisateurs finaux, car la confier uniquement aux développeurs peut s'avérer irréalisable et entraver des utilisations bénéfiques.

À mesure que ces outils se répandent, Chen a déclaré que les chercheurs devraient donner la priorité aux modèles de détection qui identifient les signatures statistiques intrinsèques du contenu synthétique plutôt que de s'appuyer sur des métadonnées faciles à supprimer.

« Les plateformes devraient investir à la fois dans des processus de détection automatisés et dans des capacités d'examen humain, tout en développant des procédures de remontée claires pour les contenus à haut risque impliquant des personnalités publiques ou des fraudes potentielles », a-t-il déclaré, ajoutant que les législateurs devraient se concentrer sur l'établissement de cadres de responsabilité clairs et sur l'imposition d'exigences de divulgation.

« La démocratisation rapide de ces capacités signifie que les cadres de réponse développés aujourd'hui seront testés à grande échelle dans quelques mois, et non dans quelques années », a conclu Chen.

Trezor One – Portefeuille Matériel de Crypto-Monnaie – Le Stockage à Froid Le Plus Fiable pour Bitcoin, Ethereum, ERC20 et Bien d’autres (Noire)