L'IA a aidé à détecter les fausses nouvelles, mais a ensuite aggravé la situation : MIT

Les personnes qui utilisent l'IA pour évaluer l'exactitude des informations pourraient devenir moins efficaces pour détecter elles-mêmes la désinformation, selon une nouvelle étude du Media Lab du MIT.

Selon les chercheurs du MIT, l’étude intervient à un moment où les chatbots IA sont de plus en plus utilisés pour vérifier des informations en ligne, ce qui soulève la question de savoir si ces outils aident les utilisateurs à développer leur esprit critique ou s’ils délèguent simplement cette tâche à l’IA.

« Les assistants IA comme ChatGPT, Claude et Grok sont de plus en plus utilisés pour évaluer la crédibilité des informations en ligne, qu'il s'agisse de juger de l'authenticité des titres d'actualité et des images virales ou de déterminer si les affirmations médicales ou les rumeurs politiques sont vraies », ont écrit les chercheurs. « Bien que des recherches récentes suggèrent que ces systèmes peuvent réduire la croyance dans des fausses déclarations spécifiques, il n'est toujours pas clair si ces conversations apprennent aux humains à détecter la désinformation ou si elles modifient simplement leurs croyances sur les fausses informations avec l'aide de l'IA. »

Dans une étude de quatre semaines portant sur 67 participants, 7 203 conversations IA et 4 536 évaluations d’authenticité des informations, les chercheurs ont analysé la manière dont les gens évaluaient les titres et les images d’informations réelles et fausses. Ils ont constaté que si l’assistance de l’IA améliorait de 21 % la précision dans la détection des informations erronées, les performances des participants lors des réévaluations sans IA diminuaient de 15,3 %.

Pour mener à bien l'étude, les chercheurs ont développé un système combinant le GPT-4o d'OpenAI avec la recherche Google pour aider les participants à évaluer les actualités. Les participants ont d'abord jugé par eux-mêmes si un titre et une image étaient réels ou faux, puis ont discuté du contenu avec GPT-4o avant de publier une évaluation finale.

Les chercheurs les ont ensuite testés avec du contenu nouveau et inconnu, sans l’aide de l’IA, pour déterminer si leurs capacités de détection des informations erronées s’étaient améliorées ou diminuées. L'équipe a ensuite utilisé Claude 3.5 Sonnet d'Anthropic pour analyser des milliers de conversations entre les utilisateurs et l'IA.

Étant donné que l’étude a utilisé GPT-4o et Claude 3.5 Sonnet dans leurs versions antérieures, il n’est pas clair si des modèles d’IA plus récents tels que GPT-5.5 ou Claude Opus 4.8, dotés de plus grandes capacités de raisonnement, auraient donné des résultats similaires.

Cette baisse est principalement due à une moindre capacité à identifier les fausses nouvelles, tandis que la précision des informations réelles reste la même. Les chercheurs suggèrent que si l’IA peut améliorer les performances sur le moment, elle peut également favoriser la dépendance à l’égard de la technologie.

« Notre analyse longitudinale démontre que les approches actuelles donnent la priorité à la correction des croyances plutôt qu'au développement des compétences, générant une dépendance plutôt que des capacités durables de compréhension », note l'étude. « À mesure que l'IA devient de plus en plus sophistiquée, il devient essentiel de garantir que ces outils encouragent la pensée critique plutôt que la confiance cognitive pour maintenir la résilience du public face à la désinformation. »

L'étude intervient à un moment où l'IA générative a rendu plus facile que jamais la création de fausses nouvelles convaincantes, avec des images et des vidéos réalistes qui peuvent se propager rapidement sur les réseaux sociaux et tirer parti de la tendance des gens à faire confiance à ce qu'ils voient.

À la suite des attaques de missiles iraniens contre Israël en juin 2025, des vidéos prétendument montrant des destructions à Tel Aviv et à l’aéroport Ben Gourion se sont largement répandues sur les réseaux sociaux, accumulant des millions de vues avant d’être identifiées comme étant générées par l’IA.

L'inquiétude suscitée par la diffusion de fausses images de guerre s'est poursuivie, ce qui a conduit X à annoncer en mars qu'il suspendrait les créateurs de son programme de partage des revenus pour la publication de vidéos de conflit générées par l'IA sans le déclarer.

« En temps de guerre, il est essentiel que les gens aient accès à des informations authentiques sur le terrain », a déclaré Nikita Bier, chef de produit chez X. « Avec les technologies d'IA d'aujourd'hui, créer du contenu susceptible d'induire les gens en erreur est trivial. »