Scannez le code QR et recevez un Bitcoin : cela semble trop beau pour être vrai – et ça l’est. Les vidéos dans lesquelles des personnalités telles que Michael Saylor, Vitalik Buterin et Elon Musk distribuent de prétendus cadeaux cryptographiques se répandent de plus en plus sur YouTube, mais elles sont fausses. Les progrès de l’intelligence artificielle rendent ces extraits vidéo de plus en plus authentiques. Les experts craignent que la désinformation générée par l’IA ne devienne le plus grand risque mondial au cours des prochaines années.
Arnaque au Bitcoin avec un clone d’IA
Michael Saylor est l’un des porte-parole cryptographiques les plus cités. Le président du fournisseur de logiciels MicroStrategy compte plus de trois millions de followers sur Internet. L’homme de 58 ans apparaît régulièrement sur des podcasts, donne des discours lors de conférences et donne des interviews. Il existe une quantité correspondante de matériel vidéo et de sons originaux que les fraudeurs utilisent pour les vidéos générées par l’IA.
On supprime 80 vidéos par jour, « mais les escrocs en publient de plus en plus ».
L’arnaque, connue sous le nom d’arnaque aux cadeaux, est répandue dans l’espace crypto depuis des années. Il s’agit généralement de personnes utilisées à des fins frauduleuses en raison de leur portée sur les réseaux sociaux. Les programmes vidéo basés sur l’IA rendent de telles arnaques de plus en plus réelles. Même pour des yeux avertis, il devient plus difficile de détecter les deepfakes.
La désinformation, le plus grand risque mondial
Le Forum économique mondial (WEF) classe la propagation de la désinformation basée sur l’IA comme la plus grande menace des deux prochaines années dans son dernier rapport sur les risques mondiaux. « Les capacités destructrices de l’information manipulée » augmentent rapidement, dit-il, « à mesure que le libre accès à des technologies de plus en plus sophistiquées s’accroît et que la confiance dans l’information et les institutions s’érode ».
À l’approche de nombreuses élections cette année, notamment l’élection présidentielle aux États-Unis, Amnesty International menace d’accroître « les divisions sociales, la violence idéologique et l’oppression politique ». L’intelligence artificielle aurait permis une « explosion de fausses informations et de contenus dits synthétiques », depuis des « clones vocaux sophistiqués jusqu’aux faux sites Internet ». Le rapport évalue les informations provenant de 1 500 experts et analystes des risques issus du monde des affaires, de la politique et de la société.
La blockchain comme moyen contre les deepfakes
Afin de lutter contre les deepfakes, les réseaux décentralisés pourraient devenir plus importants à l’avenir. La technologie blockchain est déjà utilisée dans des projets modèles visant à vérifier les informations par l’agence de presse italienne Agenzia Nazionale Stampa Associata (ANSA), le New York Times et l’Associated Press.
Les messages ou images sont stockés sur la blockchain avec un hachage. Les messages reçoivent ensuite une signature numérique avec un horodatage qui peut être utilisé pour prouver leur origine. Dans le contexte de la propagation des deepfakes, les labels de qualité blockchain prouvant l’authenticité des informations pourraient être de plus en plus établis.
Cela pourrait aussi vous intéresser
Voir l’article original en allemand
