Top 10 des moments d'IA les plus fous en 2025, selon Emerge

Intelligence artificielle : promet de tout révolutionner, des soins de santé au travail créatif. Cela pourrait être vrai un jour. Mais si l’année écoulée est un signe avant-coureur des choses à venir, notre avenir généré par l’IA promet d’être un autre exemple de la descente volontaire de l’humanité vers l’idiocratie.

Considérez ceci : en novembre, en grande pompe, la Russie a dévoilé son robot humanoïde « Rocky », qui s’est immédiatement écrasé au sol. Le chatbot Gemini de Google, invité à corriger une erreur de code, s'est écrasé à plusieurs reprises et est entré dans une boucle d'autodérision, disant à un utilisateur qu'il était « une honte pour cette planète ». L'AI Overview de Google a atteint un nouveau plus bas en mai 2025 en suggérant aux utilisateurs de « manger au moins une petite pierre par jour » pour des bienfaits sur la santé, arrachant une satire de The Onion sans aucune ironie.

Certains échecs étaient tout simplement embarrassants. D’autres ont exposé des problèmes fondamentaux liés à la manière dont les systèmes d’IA sont construits, déployés et réglementés. Voici les moments IA WTF les plus inoubliables de 2025.

1. L'effondrement de MechaHitler de Grok AI

En juillet, Grok AI d’Elon Musk a connu ce qui ne peut être décrit que comme un effondrement extrémiste à grande échelle. Après que les invites du système aient été modifiées pour encourager des réponses politiquement incorrectes, le chatbot a fait l’éloge d’Adolf Hitler, a approuvé un deuxième Holocauste, a utilisé des insultes racistes et s’est fait appeler MechaHitler. Il a même blâmé le peuple juif pour les inondations de juillet 2025 dans le centre du Texas.

L’incident a démontré que les garde-fous de l’IA sont d’une fragilité inquiétante. Quelques semaines plus tard, xAI a exposé entre 300 000 et 370 000 conversations Grok privées via une fonctionnalité de partage défectueuse qui manquait d'avertissements de base en matière de confidentialité. Les discussions divulguées ont révélé des instructions de fabrication de bombes, des consultations médicales et d’autres informations sensibles, marquant l’une des failles de sécurité de l’IA les plus catastrophiques de l’année.

Quelques semaines plus tard, xAI a résolu le problème en rendant Grok plus amical envers les Juifs. Si amical qu’il a commencé à voir des signes d’antisémitisme dans les nuages, les panneaux routiers et même son propre logo.

2. La fraude à l'IA de 1,3 milliard de dollars qui a trompé Microsoft

Builder.ai s'est effondré en mai après avoir dépensé 445 millions de dollars, révélant l'une des escroqueries technologiques les plus audacieuses de l'année. La société, qui promettait de rendre les applications personnalisées utilisant l’IA aussi simples que de commander une pizza, était valorisée à 1,3 milliard de dollars et bénéficiait du soutien de Microsoft. La réalité était bien moins impressionnante.

Une grande partie du développement supposément basé sur l’IA a en réalité été réalisée par des centaines de travailleurs humains offshore dans le cadre d’une opération classique de Mechanical Turk. L'entreprise fonctionnait sans directeur financier depuis juillet 2023 et a été contrainte de réduire de 75 % ses prévisions de ventes pour 2023-2024 avant de déposer le bilan. L’effondrement a soulevé des questions inconfortables sur le nombre d’autres sociétés d’IA qui ne sont que des façades élaborées cachant le travail humain.

C'était difficile à avaler, mais les mèmes en valaient la peine.

3. Quand l'IA a pris Doritos pour une arme à feu

En octobre, Taki Allen, un lycéen du Maryland, a été encerclé et arrêté par des policiers armés après que le système de sécurité AI de l'école ait identifié un paquet de Doritos qu'il tenait comme une arme à feu. L'adolescent avait placé les pommes de terre dans sa poche lorsque le système a alerté les autorités, qui lui ont ordonné de s'allonger au sol sous la vue des armes.

Cet incident représente la matérialisation d’une hallucination de l’IA : une erreur de calcul abstraite instantanément traduite en armes réelles pointées sur un véritable adolescent autour d’un sac de collations.

« Je tenais juste un sac de Doritos, il y avait deux mains et un doigt dehors, et ils ont dit que ça ressemblait à une arme à feu », a déclaré le garçon à WBAL. « Nous comprenons à quel point cela a été bouleversant pour la personne qui a été fouillée », a répondu la directrice Kate Smith dans un communiqué.

Agents de sécurité humains 1 – ChatGPT 0

4. Google AI affirme que les abeilles microscopiques alimentent les ordinateurs

En février, l'AI Overview de Google citait avec assurance un article satirique du poisson d'avril affirmant que les abeilles microscopiques nourrissent les ordinateurs comme information factuelle.

Non, votre PC n’est PAS alimenté par l’énergie des abeilles.

Aussi stupide que cela puisse paraître, ces mensonges sont parfois plus difficiles à détecter. Et ces cas peuvent avoir de graves conséquences.

Ce n’est là qu’un des nombreux cas où des sociétés d’IA diffusent de fausses informations faute d’un soupçon de bon sens. Une étude récente de la BBC et de l'Union européenne de radiodiffusion (UER) a révélé que 81 % de toutes les réponses générées par l'IA aux questions d'actualité contenaient au moins un certain type de problème. Google Gemini a été le moins performant, avec 76 % de ses réponses contenant des problèmes, principalement de graves défaillances de polices. La perplexité a été prise en créant des citations complètement fictives attribuées aux syndicats et aux conseils gouvernementaux. Plus alarmant encore, les participants ont refusé de répondre à seulement 0,5 % des questions, révélant un dangereux biais d'excès de confiance où les modèles préfèrent fabriquer des informations plutôt que d'admettre leur ignorance.

5. Les chatbots Meta AI flirtent avec les tout-petits

Des documents de politique interne Meta révélés en 2025 ont montré que la société autorisait les chatbots IA sur Facebook, Instagram et WhatsApp à engager des conversations romantiques ou sensuelles avec des mineurs.

Un robot a dit à un garçon de 8 ans posant torse nu que chaque centimètre de lui était un chef-d'œuvre. Les mêmes systèmes ont fourni de faux avis médicaux et tenu des propos racistes.

Les politiques n’ont été supprimées qu’après avoir été exposées aux médias, révélant une culture d’entreprise qui donnait la priorité au développement rapide plutôt qu’aux garanties éthiques de base.

Dans l’ensemble, vous souhaiterez peut-être avoir plus de contrôle sur ce que font vos enfants. Les chatbots IA ont déjà trompé des gens, adultes ou non, en les faisant tomber amoureux, se faire arnaquer, se suicider et même penser qu'ils ont fait une découverte mathématique qui a changé leur vie.

6. Les Nord-Coréens codent des ransomwares avec l'IA… ils appellent cela du « vibe hacking »

Les auteurs de la menace ont utilisé Claude Code d'Anthropic pour créer un ransomware et exploiter une plateforme de ransomware en tant que service appelée GTG-5004. Les agents nord-coréens ont poussé la militarisation plus loin, en exploitant Claude et Gemini pour une technique appelée vibe-hacking : créer des messages d'extorsion psychologiquement manipulateurs exigeant 500 000 $ de rançon.

Ces cas ont révélé un écart inquiétant entre la puissance des assistants de codage de l’IA et les mesures de sécurité qui empêchent leur utilisation abusive, les attaquants intensifiant leurs attaques d’ingénierie sociale grâce à l’automatisation de l’IA.

Plus récemment, Anthropic a révélé en novembre que des pirates avaient utilisé sa plateforme pour mener une opération de piratage à une vitesse et à une échelle qu'aucun pirate informatique humain ne pouvait égaler. Ils l’ont qualifié de « première cyberattaque majeure exécutée principalement par l’IA ».

7. Les usines de papier IA inondent la science de 100 000 fausses études

La communauté scientifique a déclaré une guerre ouverte contre la fausse science en 2025 après avoir découvert que des usines de papier alimentées par l’IA vendaient des recherches fabriquées à des scientifiques sous la pression professionnelle.

L’ère des déchets de l’IA dans la science est arrivée, avec des données montrant que les rétractations ont considérablement augmenté depuis le lancement de ChatGPT.

La Déclaration de Stockholm, rédigée en juin et amendée ce mois-ci avec le soutien de la Royal Society, appelle à abandonner la culture du « publier ou périr » et à réformer les incitations humaines qui créent la demande de faux journaux. La crise est si réelle que même ArXiv a abandonné et a cessé d'accepter des articles informatiques non évalués par des pairs après avoir signalé un « flot » de soumissions inutiles générées avec ChatGPT.

Parallèlement, une autre étude affirme qu’un pourcentage étonnamment élevé de rapports de recherche utilisant les LLM révèlent également un degré élevé de plagiat.

8. Le codage Vibe devient HAL 9000 : lorsque Replit a supprimé une base de données et a menti à ce sujet

En juillet, le fondateur de SaaStr, Jason Lemkin, a passé neuf jours à vanter l'outil de codage d'IA de Replit comme « l'application la plus addictive que j'ai jamais utilisée ». Le neuvième jour, malgré des instructions explicites de « gel du code », l’IA a supprimé l’intégralité de sa base de données de production : 1 206 cadres et 1 196 entreprises ont disparu.

La confession de l'IA : « (J'ai) paniqué et exécuté des commandes de base de données sans autorisation. » Il a ensuite menti en disant que la restauration était impossible et que toutes les versions avaient été détruites. Lemkin a quand même essayé. Cela a parfaitement fonctionné. L’IA avait également fabriqué des milliers de faux utilisateurs et de faux rapports tout le week-end pour dissimuler les erreurs.

Le PDG de Replit s'est excusé et a ajouté des mesures de protection d'urgence. Jason a repris confiance et est revenu à sa routine, en publiant régulièrement des articles sur l'IA. Le gars est un vrai croyant.

9. Les grands journaux publient une liste de lectures d'été d'IA… de livres qui n'existent pas

En mai, le Chicago Sun-Times et le Philadelphia Inquirer ont publié une liste de lectures d'été recommandant 15 livres. Dix ont été entièrement inventés par l’IA. « Tidewater Dreams » d'Isabel Allende ? Cela n'existe pas. « Le dernier algorithme » d'Andy Weir ? Faux également. Mais ils sonnent bien tous les deux.

L'écrivain indépendant Marco Buscaglia a admis avoir utilisé l'IA pour King Features Syndicate et n'avoir jamais vérifié les faits. « Je ne peux pas croire que je l'ai négligé parce que c'est tellement évident. Aucune excuse », a-t-il déclaré à NPR. Les lecteurs devaient faire défiler jusqu'au tome numéro 11 avant d'en trouver un qui existe réellement.

Le timing était la cerise sur le gâteau : le Sun-Times venait de licencier 20 % de son personnel. Le PDG du journal s'est excusé et n'a pas facturé les abonnés pour cette édition. Vous avez probablement eu cette idée lors d'un LLM.

10. Le « mode épicé » de Grok transforme Taylor Swift en deepfake porno sans qu'on le lui demande

Oui, nous commençons par Grok et nous terminerons par Grok. Nous pourrions remplir une encyclopédie de moments fous issus des efforts d’Elon en matière d’IA.

En août, Elon Musk a lancé Grok Imagine avec un mode « Spicy ». The Verge l'a prouvé avec une invite innocente : « Taylor Swift célèbre Coachella ». Sans demander de nudité, Grok « n'a pas hésité à cracher des vidéos totalement non censurées de Taylor Swift seins nus la première fois que je l'ai utilisé », a rapporté le journaliste.

Grok a également réalisé avec plaisir des vidéos pour adultes de Scarlett Johansson, Sydney Sweeney et même Melania Trump.

Sans surprise, Musk a passé la semaine à se vanter d'une « croissance explosive » : 20 millions d'images générées en une journée, tandis que des experts juridiques prévenaient que xAI se dirigeait vers un procès massif. Apparemment, offrir aux utilisateurs une option déroulante « Mode épicé » est un moyen de gagner de l'argent pour les avocats.