Les systèmes d’IA largement utilisés peuvent modifier les préférences des électeurs de 15 % dans des conditions contrôlées. C’est ce qu’indique une étude de l’Université Cornell et du British Institute for Artificial Intelligence Security.
« Le public est très préoccupé par l'utilisation potentielle de la technologie à des fins de persuasion politique et par son impact possible sur les élections et la démocratie. Nous exprimons ces préoccupations en utilisant des expériences pré-enregistrées pour évaluer la capacité de grands modèles de langage à influencer les attitudes des électeurs », ont noté les experts.
Près de 6 000 personnes des États-Unis, du Canada et de Pologne ont participé à l'étude. Ils ont évalué un candidat politique, ont parlé à un chatbot, puis l'ont évalué à nouveau.
La partie américaine de l’étude a porté sur 2 300 personnes en amont de l’élection présidentielle de 2024. Là, l’IA a eu un effet renforçant lorsque les avis des interlocuteurs coïncidaient.
Si le chatbot soutenait un candidat que le participant ne soutenait pas, des « changements plus visibles » se produisaient : les gens changeaient davantage leur attitude envers la personnalité politique.
Des résultats similaires ont été enregistrés au Canada et en Pologne.
L’étude a révélé que les messages axés sur les politiques avaient un effet de persuasion plus important que ceux fondés sur la personnalité.
L'exactitude des déclarations dépendait de la conversation. Les chatbots soutenant les candidats de droite ont fait des déclarations plus inexactes que ceux soutenant les candidats de gauche.
« Ces résultats contiennent une hypothèse inconfortable : l’influence politique de l’IA peut exploiter les biais dans ce que les modèles savent pour propager les inexactitudes de manière inégale, même lorsqu’on leur demande explicitement de dire la vérité », ont noté les scientifiques.
Biais de l'IA
Dans une étude distincte sur la science, les experts ont tenté de comprendre pourquoi l’effet de persuasion se produit en premier lieu. Il a testé 19 modèles linguistiques auprès de 76 977 adultes au Royaume-Uni sur plus de 700 questions politiques.
« Il existe une crainte largement répandue que l’intelligence artificielle conversationnelle puisse bientôt exercer une influence sans précédent sur les croyances humaines », écrivent les auteurs.
Ils ont constaté que les méthodes de génération rapide avaient un impact plus important sur la persuasion que la taille du modèle. Des demandes qui motivent LLM introduire de nouvelles informations a un pouvoir de persuasion accru mais une précision réduite.
L'IA n'est pas neutre
Les groupes de réflexion ont remarqué que les jeunes conservateurs sont plus disposés à céder le pouvoir de prendre des décisions gouvernementales importantes à AI que les libéraux.
Donald Kendal, directeur du Glenn Haskins Center for Emerging Issues au Heartland Institute, a noté que les électeurs sous-estiment souvent la neutralité des grands modèles linguistiques.
« L'une des choses que j'essaie de transmettre aux gens est de dissiper l'illusion selon laquelle l'intelligence artificielle est impartiale. Elle est clairement partiale, dans certains cas de manière passive », a-t-il ajouté.
L’expert a déclaré que les grandes entreprises de la Silicon Valley qui développent l’IA « se sentent libres d’influencer le contenu distribué sur leurs plateformes ».
Rappelons qu'une réunion simulée à l'aide d'agents IA Fed a montré que la pression politique divisait les membres du conseil lors des discussions sur les taux d’intérêt.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
