En résumé
- George Hotz a déclaré que l’adoption massive d’agents d’IA dans la programmation serait « l’une des erreurs les plus coûteuses » dans ce domaine.
- Le pirate informatique a fait valoir que les agents génèrent du code cassé d'une manière qui est de plus en plus difficile à détecter, après six mois d'utilisation dans des projets réels.
- Hotz a averti que même si les meilleurs programmeurs détectent les bugs, les moins expérimentés les transmettront directement en production.
George Hotz, le hacker qui a piraté l'iPhone à 17 ans et procédé à l'ingénierie inverse de la PlayStation 3 avant que Sony ne le poursuive en justice, a publié dimanche un article de blog affirmant que l'adoption massive d'agents d'IA dans la programmation se terminerait par un désastre, ou du moins quelque chose qui s'en rapproche.
« Je le dis maintenant : l'adoption d'agents d'IA dans le développement de logiciels sera l'une des erreurs les plus coûteuses de l'histoire de ce domaine », a écrit Hotz. « Les agents ne savent pas programmer, et il leur faut de plus en plus de temps pour se rendre compte qu'ils ne le savent pas. »
« Le résultat est mauvais, mais d'une manière de plus en plus difficile à détecter. C'est exactement ce que l'on attend d'un modèle statistique de plus en plus précis. »
Le message, intitulé « The Eternal Sloptember », arrive cinq jours après qu'Andrej Karpathy, l'un des plus éminents chercheurs en IA, a rejoint l'équipe de pré-formation d'Anthropic avec la vision explicite que les agents d'IA ont déjà transformé le développement logiciel. Tous deux représentent aujourd’hui les pôles opposés d’un débat que l’industrie n’a pas encore résolu, et tous deux disposent d’une réelle crédibilité pour soutenir leur position.
Mise à jour personnelle : j'ai rejoint Anthropic. Je pense que les prochaines années à la frontière des LLM seront particulièrement formatrices. Je suis très heureux de rejoindre l'équipe ici et de revenir à la R&D. Je reste profondément passionné par l’éducation et j’ai l’intention de résumer mon travail dans ce domaine à temps.
– Andrej Karpathy (@karpathy) 19 mai 2026
Hotz n’est pas parvenu à cette conclusion depuis la barre. Il a passé six mois à utiliser des agents sur des projets réels : des parties de Tinygrad, son framework d'apprentissage profond open source, et une rétro-ingénierie complète du micrologiciel d'une puce USB-PCIe. « L'agent concentre tout le progrès au début », écrit-il, puis il vous tend ce qu'il décrit comme le levier d'une machine à sous : vous le tirez et attendez que le travail final soit terminé.
Il ne finit jamais par y parvenir.
Ce n'est pas une question d'ego
Hotz anticipe la critique évidente : un programmeur qui définit une partie de son identité à travers son métier résisterait naturellement aux outils qui menacent de le remplacer. Prenez l'objection au sérieux et rejetez-la selon ses propres mérites.
« Je pensais davantage à l'estime de soi. Google AFL a trouvé plus de bugs que les LLM et personne n'a ressenti cela. Les échecs et le go sont plus populaires que jamais », a déclaré Hotz. Et vous avez raison : l’IA aux échecs domine les humains depuis des décennies et le jeu n’a fait que gagner en popularité.
Son souci n’est donc pas d’être remplacé. C’est ce qui arrive à la qualité du code lorsque tout le monde utilise ces outils en même temps, surtout lorsque Big Tech et Wall Street poussent constamment à leur utilisation généralisée.
« Je pense presque que c'est une sorte d'opération psychologique pour vendre des agents », dit Hotz. « La peur de perdre est l'une des rares façons de pousser les grandes entreprises à agir. Même si je pense qu'en ayant peur, elles commettent une grave erreur. »
Son argument central est organisationnel. Les plus performants disposent de boucles de rétroaction suffisamment agiles pour détecter les problèmes générés par les agents avant qu’ils n’atteignent la production. Ils lisent le code, identifient les erreurs et déterminent quand faire confiance à l'outil. « Les moins performants n'auront pas cette capacité d'autocorrection », écrit-il, et ce sont précisément eux qui utilisent des agents pour produire dix fois plus qu'avant. Dans une grande entreprise, ce calcul conduit à quelque chose de concret : une dégradation plus rapide de la qualité moyenne du code, masquée par le volume.
Le résultat, affirme-t-il, sera « un âge d’or de beaucoup de médiocrité et un âge sombre pour les bijoux de qualité ». À titre d'exemple concret, il cite les informations selon lesquelles Apple met en œuvre des outils de programmation d'IA dans l'ensemble de son organisation d'ingénierie et demande simplement : « Pensez-vous que macOS s'améliorera ou se détériorera au cours des 2 prochaines années ? »
Où se trouvent les côtés ?
Hotz se place désormais dans ce qu'il appelle le « camp LeCun/Marcus », faisant référence à Yann LeCun, scientifique en chef de l'IA chez Meta, et à Gary Marcus, sceptique de longue date à l'égard des LLM. Tous deux ont soutenu que les modèles de langage sont, à la base, des détecteurs de modèles sophistiqués : ils peuvent imiter la disposition du code existant, mais ils ne peuvent pas raisonner sur des problèmes véritablement nouveaux à partir des principes premiers.
Le codage dynamique – décrivant ce que vous voulez en langage naturel et laissant l’IA générer la mise en œuvre – a explosé au cours de la dernière année et de grands laboratoires ont positionné la programmation basée sur des agents comme leur produit phare. Microsoft a transformé GitHub Copilot en un système entièrement agentique en 2025, le PDG Satya Nadella le décrivant comme un changement au niveau de la plate-forme comparable au passage au cloud.
La réponse à la position de Hotz n’est pas abstraite. Karpathy, qui s'était montré sceptique à l'égard des agents début 2025, a changé de position suite à la sortie de nouveaux modèles et a rejoint l'équipe de pré-formation d'Anthropic le 19 mai, cinq jours avant que Hotz ne publie son entrée. Il a décrit les prochaines années à la frontière comme « particulièrement formatrices ».
Le PDG d'Anthropic, Dario Amodei, a déclaré à Davos que certains ingénieurs d'Anthropic avaient déjà arrêté d'écrire du code eux-mêmes, laissant les modèles le gérer pendant qu'ils examinaient le résultat. Hotz, pour sa part, dit qu'il a essayé de faire la même chose et qu'il a fini par recourir à chaque fois à une correction manuelle.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.