Opinion : les entreprises n’ont pas réussi à gérer les agents IA

Les entreprises ont déployé des agents d’IA trop rapidement sans disposer de l’infrastructure nécessaire pour surveiller leurs performances et leurs coûts. C'est à cette conclusion qu'est parvenu le fondateur de la startup Hebbia, George Sivulka, dans un essai pour la liste de diffusion a16z, écrit Fortune.

Il a lié le problème au tokenmaxxing, une pratique dans laquelle les organisations suivaient et encourageaient une consommation accrue. jetons lorsque vous travaillez avec l’IA. Selon lui, les entreprises ont pris à tort l’augmentation de la consommation de jetons comme un signe de l’introduction de l’IA et d’une productivité accrue.

« Vous venez d'embaucher un million de mauvais employés », a écrit Sivulka.

Selon lui, les agents d’IA n’ont pas tant réduit les coûts de main-d’œuvre que modifié la structure des coûts. Dans son essai, Sivulka déclare que « pour la première fois dans l’histoire, les gens étaient moins chers que les logiciels ».

Le problème ne venait pas des modèles

Selon Sivulka, les agents d’IA échouent souvent à accomplir leurs tâches, non pas à cause de modèles faibles, mais à cause d’instructions peu claires au sein des entreprises. Il affirme qu’« environ un employé sur 100 » sait comment donner à l’IA suffisamment de contexte pour faire du bon travail.

De mauvaises instructions conduisent à des boucles : l'agent essaie de corriger ses propres actions, accède à plusieurs reprises au modèle et dépense des jetons supplémentaires sans résultat proportionnel. Sivulka a décrit cela comme « dépenser des jetons pour dépenser des jetons ». En conséquence, l'auteur est arrivé à la conclusion que les entreprises n'étaient pas confrontées à une crise technologique, mais à une crise de gestion.

Fortune a lié ce point à un débat plus large sur les coûts de l’IA. Selon la publication, début 2026, un certain nombre d'entreprises suivaient et encourageaient la consommation de jetons comme indicateur de l'activité des employés.

Plus tard, certaines de ces initiatives ont été réduites. Auparavant, la publication écrivait que Meta et Amazon utilisaient des évaluations internes de la consommation de jetons, mais les abandonnaient après que les employés aient commencé à utiliser l'IA pour des raisons d'indicateurs plutôt que de résultats.

Les dépenses sont devenues un risque distinct

Fortune cite des données d'UBS Global Research, selon lesquelles presque tous les dirigeants d'entreprises d'IA lors d'un événement bancaire fermé ont évoqué le problème des coûts symboliques dans l'environnement des entreprises.

Une société anonyme a déclaré à UBS que ses dépenses pour Anthropic étaient passées de 20 000 dollars en décembre à près d'un million de dollars en juillet. La direction n'a pas entièrement limité l'utilisation, mais a commencé à introduire des limites internes et des avertissements en cas de dépassement des seuils.

Selon les journalistes, UBS considérait auparavant les préoccupations concernant les coûts des jetons comme un problème important pour environ 60 % des organisations. La publication mentionne également le cas d'une entreprise anonyme qui, selon Axios, a reçu une facture d'environ 500 millions de dollars en un mois pour avoir utilisé Claude après avoir lancé des outils d'IA sans limites.

Les entreprises s’orientent vers une gestion de modèles

Sivulka estime que la solution ne réside pas dans l'abandon de l'IA, mais dans l'émergence d'une infrastructure de gestion des systèmes d'agents. Il a inclus une description claire des processus, une évaluation de la qualité du résultat, un contrôle des coûts et une répartition des tâches entre les différents modèles.

Fortune écrit que certaines entreprises s'orientent déjà vers routage du modèle. Dans cette approche, les opérations simples sont transférées vers des modèles moins chers ou plus rapides, et les modèles avancés et coûteux ne sont utilisés que pour des scénarios clés.

Sivulka a également mis en garde contre un nouveau défi interne lié au fait que les employés conservent un contexte de travail important. Les gens peuvent être réticents à transmettre les connaissances et les processus qui les rendent indispensables aux systèmes d’IA, a-t-il déclaré. L'expert a noté que sans confiance et sans règles claires, les travailleurs n'aideront pas les systèmes qui peuvent les changer.