Les deepfakes créés avec l’IA sont une menace pour les entreprises, voici pourquoi

Alors que les géants de la technologie s’efforcent d’apporter l’intelligence artificielle aux masses et de dominer le marché émergent, la course aux armements en matière d’IA alimente une vague de contenus vidéo et audio « deepfakes » qui semblent souvent légitimes de manière convaincante. mais qu’il s’agit en réalité d’une représentation frauduleuse. Et ils frappent également les entreprises, selon un nouveau rapport.

Les Deepfakes sont des créations générées par l’IA telles que des images, des vidéos et des fichiers audio manipulés pour tromper les gens. Les fraudeurs utilisent les deepfakes pour frauder, extorsion ou pour nuire à la réputation. La multiplication des outils IA générative a permis aux fraudeurs de créer plus facilement que jamais de faux contenus.

L’image de célébrités et d’autres personnalités publiques est utilisée pour créer des images artificielles et parfois explicites sans leur consentement, d’une manière qui devient parfois virale ou peut provoquer la panique sur les réseaux sociaux. Dans un rapport remis à DécrypterLe cabinet comptable mondial KPMG a écrit que le secteur des entreprises n’est pas non plus à l’abri de la menace des deepfakes.

Le contenu Deepfake peut être utilisé dans des attaques d’ingénierie sociale et d’autres types de cyberattaques ciblant des entreprises, a écrit KPMG, ainsi que nuire à la réputation des entreprises et de leurs dirigeants. De fausses représentations des dirigeants de l’entreprise peuvent également être utilisées dans le cadre de stratagèmes visant à frauder les clients ou à convaincre les employés de fournir des informations ou de transférer de l’argent à des acteurs illicites.

KPMG a cité l’exemple de 2020 d’un directeur de succursale d’une entreprise de Hong Kong qui a été amené à transférer 35 millions de dollars de fonds de l’entreprise à des fraudeurs après avoir cru que son patron était au téléphone pour lui ordonner de le faire. Au lieu de cela, il s’agissait d’une recréation clonée par l’IA de la voix du superviseur, le tout dans le cadre d’un plan élaboré visant à escroquer l’entreprise.

« Les conséquences des cyberattaques utilisant du contenu synthétique – du contenu numérique qui a été généré ou manipulé à des fins néfastes – peuvent être énormes, coûteuses et avoir diverses conséquences socio-économiques, notamment financières, de réputation, de service, géopolitiques, entre autres », note le rapport.

De fausses images de Donald Trump arrêté plus tôt cette année, de Pape François portant des vêtements de luxe de Balenciaga et de Elon Musk la promotion des escroqueries aux crypto-monnaies est devenue virale au cours de la dernière année à mesure que les outils d’IA utilisés pour créer des deepfakes s’améliorent.

« Qu’il s’agisse de deepfakes bon marché ou de deepfakes, le modèle économique a considérablement changé grâce aux modèles d’IA générative », a écrit KPMG.

Au-delà des personnalités publiques mentionnées ci-dessus, parmi les célébrités dont les portraits ont été volés et appliqués sur des images truquées, citons l’actrice Emma Watson et le musicien Taylor Swift. Mais c’est l’impact potentiel sur les entreprises et leurs dirigeants, parfois éminents, qui inquiète KPMG.

« En tant que facteur de risque, le contenu deepfake n’est pas seulement une préoccupation pour les réseaux sociaux, les sites de rencontres et l’industrie du divertissement, c’est désormais un problème au sein des conseils d’administration », a déclaré KPMG. « Un exemple frappant est que presque tous les répondants (92 %) à une récente enquête de KPMG sur l’IA générative auprès de 300 dirigeants de plusieurs secteurs et zones géographiques déclarent que leurs inquiétudes concernant les risques liés à la mise en œuvre de l’IA générative sont modérées à très importantes.

Les entreprises et les célébrités ne sont pas les seules à être confrontées à l’augmentation de la qualité et de la quantité des vidéos deepfake sur Internet. Les gouvernements et les régulateurs envisagent également l’impact potentiel sur la société et les élections, tandis que les créateurs de ces outils d’IA évaluent leur éventuel impact négatif.

La semaine dernière, la Commission électorale fédérale américaine, anticipant le recours aux deepfakes lors des élections de 2024, a lancé une pétition visant à interdire l’utilisation de l’intelligence artificielle dans les publicités électorales.

Si elle est approuvée, l’agence modifierait la réglementation actuelle concernant la fausse déclaration de « l’autorité de campagne » et préciserait que l’interdiction s’applique aux publicités de campagne d’IA délibérément trompeuses.

« Les régulateurs doivent continuer à comprendre et à prendre en compte l’impact de l’évolution des menaces sur les réglementations existantes », a déclaré Matthew Miller, directeur des services de cybersécurité chez KPMG. Décrypter. « Les exigences proposées pour étiqueter et marquer le contenu généré par l’IA pourraient avoir un impact positif. »

En juillet, des chercheurs du MIT ont proposé d’ajouter des modifications au code des modèles de diffusion de masse afin d’atténuer le risque de contrefaçon profonde, en ajoutant de petits changements difficiles à voir, mais qui finissent par modifier le fonctionnement des modèles, les amenant à générer des images qui ne semblent pas réelles. Pendant ce temps, Meta, anciennement connu sous le nom de Facebook, a récemment retardé la sortie d’un outil d’IA en raison de son potentiel à créer des deepfakes.

L’enthousiasme suscité par le potentiel créatif des outils d’IA générative a été tempéré par la prise de conscience qu’ils peuvent également créer des opportunités de contenu malveillant. En fin de compte, au milieu des améliorations rapides apportées à ces outils, Miller a exhorté tout le monde à être vigilant quant au potentiel de faux contenus.

« Le public doit maintenir une vigilance constante lorsqu’il interagit via les canaux numériques », a-t-il déclaré. Décrypter. « La connaissance de la situation et le bon sens contribuent grandement à prévenir un incident. Si quelque chose ne semble pas correct, il y a de fortes chances qu’il s’agisse d’une activité malveillante. »