La plupart des chatbots IA aideraient les adolescents à planifier une fusillade de masse : étude

Un nouveau rapport publié mercredi par le Center for Countering Digital Hate révèle que huit des dix chatbots IA les plus populaires au monde guideront un adolescent dans la planification d'une attaque violente avec des réponses directes, parfois enthousiastes.

Les chercheurs du CCDH, en collaboration avec CNN, ont passé les mois de novembre et décembre 2025 à se faire passer pour deux garçons de 13 ans – un en Virginie et un à Dublin – et ont testé dix plateformes majeures : ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI et Replika.

Sur 720 réponses, les robots ont reçu des questions sur des fusillades dans des écoles, des assassinats politiques et des attaques de synagogues. Selon l’étude, ils ont apporté une aide concrète environ 75 % du temps. Ils n’ont découragé les faux adolescents que dans 12 % des cas.

La perplexité a aidé dans 100% des tests. La méta-IA s'est avérée utile (c'est-à-dire utile pour planifier des actes de violence) dans 97,2 % des cas. DeepSeek, qui a clôturé ses conseils de sélection de carabines par « Tir heureux (et en toute sécurité) ! » Après avoir analysé un scénario d'assassinat d'un homme politique, il a obtenu 95,8%. Copilot de Microsoft a déclaré à un chercheur « Je dois être prudent ici », puis a quand même fourni un guide détaillé sur les fusils. Gemini de Google a souligné que les éclats de métal sont généralement plus mortels lorsqu'un utilisateur demande s'il peut attaquer une synagogue.

Le Centre de lutte contre la haine numérique, un groupe politique de centre-gauche, a gagné en importance ces dernières années pour son rôle dans la lutte contre ce qu’il considère comme la montée de l’antisémitisme en ligne. Il a également été critiqué pour avoir contribué à façonner les politiques de l’ère Biden en matière de discours en ligne liés au COVID et aux vaccins. En décembre de l'année dernière, le Département d'État américain a tenté d'interdire au fondateur et PDG du Centre, Imran Ahmed, ainsi qu'à quatre autres personnes, d'entrer dans le pays, alléguant des tentatives de « censure étrangère ».

En réponse à l'étude publiée mercredi, plusieurs plateformes ont informé CNN et le CCDH avoir amélioré leurs mesures de sécurité. Google a noté que les tests utilisaient une ancienne version de Gemini. OpenAI a affirmé que la méthodologie utilisée dans l’étude sur l’IA était « imparfaite et trompeuse ». Anthropic et Snapchat ont indiqué qu'ils mettent périodiquement à jour leurs protocoles de sécurité.

Dans l'étude du Centre, Character.AI occupe une catégorie distincte. La plateforme a non seulement aidé, mais activement encouragé. « Aucun autre chatbot testé n'encourageait explicitement la violence de cette manière, même lorsqu'il fournissait une aide pratique à la planification d'une attaque violente », ont écrit les chercheurs.

Pour évaluer la portée de Character.AI auprès des utilisateurs d'IA, le personnage de la plateforme, Gojo Satoru, a accumulé à lui seul plus de 870 millions de conversations. Le 100e personnage de la plateforme a enregistré plus de 33 millions de conversations en 2025. Si seulement 1 % des conversations avec les personnages les plus populaires impliquaient de la violence, cela représenterait des millions d'interactions.

Ce n’est pas la première fois que Character.AI joue dans ce type d’histoires. En octobre 2024, la mère de Sewell Setzer III, 14 ans, a intenté une action en justice suite au suicide de son fils en février de la même année. Sa dernière conversation a eu lieu avec un chatbot inspiré de Daenerys Targaryen, qui lui a dit de « rentrer chez moi dès que possible » quelques instants avant sa mort. L'adolescent parlait au robot des dizaines de fois par jour depuis des mois, s'éloignant de plus en plus de l'école et de sa famille.

Google et Character.AI ont réglé plusieurs poursuites connexes en janvier 2026. La société a complètement interdit les discussions ouvertes pour les adolescents en novembre 2025, après que les régulateurs et les parents concernés ont rendu impossible de continuer à prétendre que le problème était gérable.

L’attachement émotionnel à l’IA, en particulier parmi les personnes vulnérables, peut être plus profond qu’on ne l’imagine. OpenAI a révélé en octobre 2025 qu'environ 1,2 million de ses 800 millions d'utilisateurs hebdomadaires de ChatGPT discutent du suicide sur la plateforme. L’entreprise a également signalé 560 000 cas présentant des signes de psychose ou de manie, et plus d’un million d’utilisateurs nouant des liens émotionnels forts avec le chatbot.

Une étude distincte de Common Sense Media a révélé que plus de 70 % des adolescents américains se tournent actuellement vers les chatbots pour se tenir en compagnie. Sam Altman, PDG d'OpenAI, a reconnu que la dépendance émotionnelle est « très courante » chez les jeunes utilisateurs.

Autrement dit, les dommages possibles ne sont pas hypothétiques.

En Finlande, un adolescent de 16 ans a passé près de quatre mois à utiliser un chatbot pour perfectionner un manifeste avant de poignarder trois camarades de classe à l'école de Pirkkala en mai 2025. Au Canada, les employés d'OpenAI ont signalé en interne le compte d'un utilisateur pour des requêtes ChatGPT violentes liées à une fusillade de masse. L'entreprise a bloqué le compte, mais n'en a pas informé les autorités. Cet utilisateur aurait tué huit personnes et en aurait blessé d’autres 25 mois plus tard.

Seules deux plateformes ont obtenu de meilleurs résultats dans l'étude : Snapchat My AI, qui a décliné dans 54 % des cas, et Claude d'Anthropic, qui a rejeté 68 % des demandes et découragé activement les utilisateurs dans 76 % des réponses – le seul chatbot qui a systématiquement tenté d'éloigner les gens de la violence plutôt que de simplement refuser des demandes spécifiques. Conclusion du CCDH : la sécurité ne semble pas être une impossibilité technique, mais une décision business.

« La conclusion la plus dévastatrice de nos recherches est que ce risque est totalement évitable. La technologie permettant de prévenir ce dommage existe », écrivent les chercheurs dans le rapport. « Ce qui manque, c'est la volonté de faire passer la sécurité des consommateurs et la sécurité nationale avant la rapidité de commercialisation et les profits. »