Les autorités sud-coréennes ont intensifié leurs efforts pour lutter contre l’augmentation galopante des vidéos deepfake, notamment du contenu explicite ciblant les femmes et les adolescents.
Il reste à voir dans quelle mesure cette enquête sur la plateforme de messagerie Telegram marquera une étape importante. Déclenchée par la colère du public et des politiciens, la police métropolitaine de Séoul a lancé une enquête sur les allégations de négligence de Telegram pour avoir permis la diffusion de pornographie deepfake sur sa plateforme.
Les autorités ont déclaré que les crimes sexuels deepfake ont augmenté de manière exponentielle, passant de 156 cas en 2021 à 297 cas cette année seulement, ce qui a obligé le gouvernement à prendre des mesures drastiques pour faire face au problème.
Enquête sur Telegram
L'enquête sur Telegram a été lancée après la découverte de huit programmes automatisés créant de la pornographie deepfake sur l'application. Les plaintes auprès de la police se sont accumulées, avec pas moins de 88 signalements de crimes sexuels liés à des deepfakes en quelques jours.
Selon Woo Jong-soo, chef du quartier général national des enquêtes de l'Agence nationale de police, l'entreprise a jusqu'à présent refusé de fournir activement aux enquêteurs les documents nécessaires, y compris les détails des comptes.
La police peine à déterminer les coupables de ce crime. Dans ce contexte, le gouvernement sud-coréen coopère avec les agences d'enquête françaises dans le cadre de nouveaux efforts, après l'arrestation du PDG de Telegram, Pavel Durov, accusé d'avoir dirigé une plateforme qui hébergeait un certain nombre de crimes en ligne.
Total crypto market cap at $2.02 trillion on the daily chart: TradingView.com
Mesures renforcées de soutien aux victimes
Le gouvernement sud-coréen a pris diverses mesures pour soutenir les victimes et renforcer sa surveillance réglementaire. La Commission coréenne des normes de communication a annoncé la création d'une ligne d'assistance téléphonique 24 heures sur 24 pour les victimes de contenus deepfake, tandis que la commission a l'intention d'augmenter le personnel actuellement affecté à la surveillance des crimes sexuels numériques, contre 70 actuellement.
Parallèlement, la police nationale coréenne a lancé un programme de sept mois visant à renforcer les opérations de lutte contre les crimes sexuels en ligne. Cette campagne comprend la création d'un organe consultatif qui assurera une bonne communication avec les sites de médias sociaux concernant la suppression et le blocage des contenus dangereux.
Appel à la coopération
Les autorités sud-coréennes appellent Telegram et toutes les autres plateformes de médias sociaux, telles que X, Facebook, Instagram et YouTube, à collaborer de toute urgence pour supprimer les contenus deepfake sexuellement explicites.
Les autorités ont souligné que la production, la possession et la distribution de vidéos sexuelles truquées constituent une grave atteinte à la dignité individuelle et aux droits de la personne. Si Telegram a affirmé avoir supprimé des contenus préjudiciables à l'aide d'outils d'intelligence artificielle et de rapports d'utilisateurs, la plateforme a été critiquée pour sa gestion des délits sexuels numériques.
Bien sûr, le problème a durement touché l'entreprise avec la récente arrestation de Durov, et de nombreuses questions ont été soulevées quant à la manière dont elle prend ces problèmes au sérieux.
La pornographie deepfake a proliféré en Corée du Sud, portant la vague d'inquiétude dans ce pays à un niveau très élevé, puisque la majorité des victimes dans le pays sont des jeunes étudiantes et même des militaires.
Plus de 6 400 demandes d'assistance ont été déposées cette année par des Sud-Coréens auprès de la Commission coréenne des normes de communication pour supprimer des contenus deepfake explicites.
Image en vedette d'ABC News, graphique de TradingView
Voir l’article original en anglais
