Une étude menée par deux organisations à but non lucratif basées en Europe a révélé que le chatbot Bing à intelligence artificielle (IA) de Microsoft, désormais rebaptisé Copilot, produit des résultats trompeurs sur les informations électorales et cite mal ses sources.
L’étude a été publiée par AI Forensics et AlgorithmWatch le 15 décembre et a révélé que le chatbot IA de Bing donnait des réponses erronées dans 30 % des cas à des questions fondamentales concernant les élections politiques en Allemagne et en Suisse. Les réponses inexactes concernaient les informations sur les candidats, les sondages, les scandales et le vote.
Il a également produit des réponses inexactes aux questions sur les élections présidentielles de 2024 aux États-Unis.
Le chatbot IA de Bing a été utilisé dans l’étude car il a été l’un des premiers chatbots IA à inclure des sources dans ses réponses, et l’étude indique que les inexactitudes ne se limitent pas à Bing. Ils auraient effectué des tests préliminaires sur ChatGPT-4 et auraient également trouvé des divergences.
Les organisations à but non lucratif ont précisé que les fausses informations n’avaient pas influencé le résultat des élections, même si elles pourraient contribuer à la confusion et à la désinformation du public.
« À mesure que l’IA générative se généralise, cela pourrait affecter l’une des pierres angulaires de la démocratie : l’accès à une information publique fiable et transparente. »
De plus, l’étude a révélé que les protections intégrées au chatbot IA étaient « inégalement » réparties et l’amenaient à fournir des réponses évasives dans 40 % du temps.
En rapport: Même le Pape a quelque chose à dire sur l’intelligence artificielle
Selon un article du Wall Street Journal sur le sujet, Microsoft a répondu aux conclusions et a déclaré qu’il prévoyait de corriger les problèmes avant les élections présidentielles américaines de 2024. Un porte-parole de Microsoft a encouragé les utilisateurs à toujours vérifier l’exactitude des informations obtenues auprès des chatbots IA.
Plus tôt cette année, en octobre, des sénateurs américains ont proposé un projet de loi qui réprimanderait les créateurs de répliques non autorisées d’humains réels, vivants ou morts, par l’IA.
En novembre, Meta, la société mère de Facebook et Instagram, a introduit un mandat interdisant l’utilisation d’outils de création de publicités génératives par l’IA pour les annonceurs politiques, par mesure de précaution pour les prochaines élections.
Revue: « L’IA a tué l’industrie » : le patron d’EasyTranslate parle de son adaptation au changement