L’ONU met en garde contre les deepfakes générés par l’IA qui alimentent la haine et la désinformation

Les Nations Unies ont tiré la sonnette d’alarme sur l’utilisation de deepfakes générés par l’IA pour répandre la haine et la désinformation sur les réseaux sociaux. Dans un rapport publié lundi, intitulé « Intégrité de l’information sur les plateformes numériques », l’organisation mondiale a souligné la nécessité d’une utilisation responsable de l’IA.

« Bien qu’il ait un potentiel presque inimaginable pour relever les défis mondiaux, il existe des inquiétudes sérieuses et pressantes concernant le potentiel tout aussi puissant des avancées récentes de l’intelligence artificielle, y compris les générateurs d’images et les deepfakes vidéo, pour menacer l’intégrité des informations. » dit le rapport de l’ONU.

L’intégrité de l’information fait référence à l’exactitude, à la cohérence et à la fiabilité des informations, qui, selon les Nations Unies, sont menacées par la désinformation, la mésinformation et les discours de haine.

« Ces risques ont été encore intensifiés par les progrès rapides de la technologie, comme l’intelligence artificielle générative », a écrit le secrétaire général des Nations unies Guterres dans l’introduction du rapport. « Il est devenu clair que le statu quo n’est pas une option. »

L’intelligence artificielle générative est un type de programme, généralement sous la forme d’un chatbot, capable de générer du texte, des images ou d’autres médias en réponse à des invites.

Le rapport des Nations Unies a exprimé des inquiétudes quant à l’effet des deepfakes et de la désinformation générée par l’IA dans les zones de conflit.

L’utilisation du discours de haine a souvent été considérée comme un précurseur de crimes odieux tels que le génocide, note l’ONU. Le rapport souligne également que la Convention de 1948 pour la prévention et la répression du crime de génocide interdit toute incitation directe ou publique pouvant conduire au génocide.

Bien qu’il ne donne pas d’exemples spécifiques, le rapport de l’ONU a attiré l’attention sur des cas récents d’intelligence artificielle générative utilisée pour créer, dans certains cas, des contenus et des images trompeurs de manière convaincante.

En mars, une image générée par l’IA de l’ancien président atout de donald être arrêté est devenu viral après avoir été partagé sur Twitter par le fondateur et directeur créatif de Bellingcat, Eliot Higgins. Le même mois, Midjourney, la société à l’origine du générateur d’IA texte-image du même nom, a mis fin à son essai gratuit en raison d’abus généralisés.

« Toutes les parties prenantes doivent prendre des mesures urgentes et immédiates pour garantir une utilisation sûre, sécurisée, responsable, éthique et conforme aux droits de l’homme de l’intelligence artificielle et faire face aux implications des développements récents dans ce domaine pour la propagation de la désinformation et des discours de haine », a déclaré l’ONU. a dit.

Le rapport appelle les propriétaires de plateformes numériques à investir dans des systèmes de modération de contenu, à utiliser l’intelligence artificielle et humaine pour toutes les langues utilisées dans les pays dans lesquels ils opèrent et à rendre les rapports de contenu transparents.

Ils ont ajouté que l’ère de la philosophie « avancer vite et casser les choses » de la Silicon Valley doit prendre fin, car la confidentialité, la sécurité et la transparence des utilisateurs sont essentielles et doivent être intégrées dans les nouvelles technologies dès le départ.

António Guterres a souligné que le prochain Sommet du futur en 2024 serait une occasion de convenir de solutions multilatérales.

« Les défis auxquels nous sommes confrontés ne peuvent être relevés que par une coopération internationale renforcée », a déclaré le secrétaire général António Guterres.