« Dans l’espoir de beaucoup, L'essor des médias sociaux était censé démocratiser l'accès à l'information et offrir un nouveau marché numérique pour les idées. Aujourd’hui, nous voyons clairement que cette vision n’était rien de moins que naïve. La propagation de la désinformation en ligne a produit une incapacité à s’entendre même sur des faits de base, avec des algorithmes qui récompensent ceux qui font appel à nos pires émotions – la peur, la haine. » Paolo Gentiloni, le commissaire européen aux affaires économiques et monétairespendant son discours à Venise, lors de la cinquième conférence du Soft Power Cluborganisé par Francesco Rutelli.
Les fausses nouvelles et les médias sociaux risquent de mettre à mal nos démocraties« Notre démocratie est fondée sur une confrontation pacifique des idées. Il s’agit de convaincre une majorité de soutenir telle ou telle politique, non pas par la peur ou l’intimidation, mais par le pouvoir de persuasion, un soft power par excellence », a déclaré le commissaire Gentiloni.
IA, deepfakes et désinformation : les démocraties en danger
Les avancées de lal’intelligence artificielle, qui, en plus de grandes promesses, apporte également avec elle des « vidéos deepfake indiscernables de la réalité », « Trop souvent exploitée par des acteurs malveillants, déterminés à semer la discorde dans nos sociétés, cette polarisation accrue risque de créer des camps opposés qui vivent dans leurs propres tours d’ivoire, incapables de trouver un terrain d’entente », a souligné Gentiloni.
La tendance est particulièrement inquiétante aux États-Unis, mais ne doit pas non plus être sous-estimée en Europe. « La confiance, comme l’a dit Robert Putnam, est une composante essentielle de la cohésion sociale« Si l’on ne peut plus faire confiance à ce que l’on voit et entend, cela aussi peut commencer à se fissurer. Si ces évolutions ne sont pas maîtrisées, elles risquent à terme de mettre à mal nos démocraties », a déclaré M. Gentiloni.
Ce n'est pas par hasard, dans le dernier Sondage Eurobaromètre 86 % des répondants ont trouvé que La propagation rapide de la désinformation constitue un problème majeur pour la démocratie. « Je crois qu’il faut revenir à Aristote et à la valeur de l’éthique », a déclaré Gentiloni. « Nos institutions resteront crédibles si elles sont capables de répondre aux grands défis économiques et sociaux de notre époque : croissance durable, climat, sécurité, intelligence artificielle. »
Soft Power de l’UE : « La prochaine Commission doit être ambitieuse »
Gentiloni a ensuite cité la loi sur l’IA, « qui a fait de l’UE la première juridiction au monde à réglementer l’intelligence artificielle et à exiger, entre autres, un étiquetage clair du contenu audio et vidéo artificiel « Nous ne sommes pas manipulés, nous ne sommes pas non plus manipulés. Montrer l’exemple est essentiel pour conserver notre pouvoir de persuasion et ainsi exercer notre soft power. D’autres juridictions sont très attentives à ce que nous faisons en Europe. Nous l’avons également clairement vu dans notre législation sur le climat. »
Pour cette raison, conclut Gentiloni, « il est Il est important que la prochaine Commission ait un programme ambitieuxqui renforce la position économique de l'Europe sur le plan intérieur et sa position géopolitique à l'étranger. Grâce au pouvoir de persuasion qui découle de nos valeurs et de nos politiques, « L’UE peut continuer à jouer son rôle de soft power prééminent au niveau mondial ».
Federprivacy aux institutions : « Une enquête judiciaire est nécessaire »
L’évolution rapide de l’intelligence artificielle rend de plus en plus difficile de distinguer un « faux » de la réalité et Les nouvelles technologies peuvent parfois être exploitées par des personnes malveillantes : c'est ce que rappelle Federprivacy, l'association des professionnels de la protection des données, dans une note dans laquelle il souligne leLe cas de « Deep-Live-Cam »un logiciel qui permet à l'utilisateur de remplacer n'importe quelle personne en utilisant son visage, non seulement pour créer une vidéo statique, mais aussi pour faire un streaming en direct en temps réel.
Cette affaire suscite l’inquiétude sur les fronts de la confidentialité et de la conformité : Ce programme peut être téléchargé gratuitement sur le Web et aucune compétence informatique particulière n'est requise, il suffit d'une simple photo de la personne que vous souhaitez incarner. Hormis les recommandations génériques de l'utiliser « de manière responsable, en respectant les lois locales » et « en obtenant le consentement de la personne concernée », le fournisseur ne fournit aucune documentation indiquant sa conformité aux réglementations en matière de confidentialité, comme souligné Nicola Bernardi, président de Federprivacy. « Les développeurs doivent fournir des instructions claires pour utiliser le logiciel de manière légale et fournir des preuves transparentes de leur conformité aux réglementations applicables, « Sinon, les utilisateurs seront amenés à penser qu’ils peuvent faire tout ce que la technologie leur permet de faire », explique Bernardi. « La possibilité d’usurper l’identité d’une personne si facilement ouvre la porte aux criminels qui peuvent facilement escroquer des personnes de bonne foi, ainsi qu’aux prédateurs sexuels qui peuvent attirer des mineurs en se faisant passer pour leurs pairs simplement en récupérant des photos sur les réseaux sociaux. »
Bien entendu, ceux qui utilisent ces programmes ne peuvent pas faire ce qu’ils veulent sans discernement et espérer rester impunis, même si les réglementations existantes à elles seules peuvent ne pas suffire, comme expliqué L'avocat Vittorio Lombardi, membre du conseil d'administration de Federprivacy : « L'usurpation non autorisée de l'identité d'autrui constitue le délit d'usurpation d'identité puni par l'art. 494 du Code pénal, en plus de tous les autres crimes déplorables qui résultent potentiellement d'une conduite illégale menée à l'aide de logiciels d'intelligence artificielle, tels que fraude, pédophilie, revenge porn, ainsi que les délits informatiques visés à l'article 615 bis. La diffusion de programmes tels que Deep-Live-Cam impose aux institutions l'obligation d'une enquête judiciaire sur une situation dangereuse qui risque « porter atteinte aux fondements de la protection de la vie privée, de l’identité personnelle et surtout aux principes minimaux sur lesquels repose toute la cohésion sociale ».
Le existe depuis 2018 RGPD qui protège la vie privée des citoyens européens et récemment, l'UE a également approuvé un nouveau règlement sur l'intelligence artificielle (Loi sur l'IA), qui entrera toutefois pleinement en vigueur dans deux ans, mais En attendant, Federprivacy espère que les institutions prendront des mesures pour limiter le risque de voir une recrudescence des escroqueries et le vol d’identité.
Voir l’article original en italien
