LE'intelligence artificielle générative il a rapidement évolué de projets pilotes uniques à une infrastructure largement utilisée dans les domaines du développement, des ventes, du marketing et du support. À mesure que le nombre de cas d’utilisation augmente, la consommation des accès aux modèles augmente également et, par conséquent, la charge financière. Dans de nombreuses entreprises, la gestion de ces dépenses est en retard par rapport au rythme d’adoption. Cela s'explique moins par un manque de discipline budgétaire que par la manière dont est organisé l'accès aux modèles linguistiques. Les équipes accèdent souvent aux modèles de fournisseurs via une clé API partagée, avec une facturation agrégée au niveau du compte et calculée en jetons. De ce point de vue, il est impossible de déterminer quel utilisateur, quelle équipe ou quel processus automatisé génère les coûts. Un contrôle efficace des coûts nécessite donc avant tout une cartographie fiable de la consommation à son origine.
Les implications financières de cet écart deviennent évidentes lorsqu’on les compare à d’autres types de dépenses. Frais de personnel, de nuage et les licences sont planifiées et attribuées à des centres de coûts individuels, ce qui permet d'évaluer leur valeur et de limiter leur croissance. Dans de nombreuses organisations, ce fondement est totalement absent lorsqu’il s’agit de consommation d’IA. Sans une vue d’ensemble des dépenses réelles, la contribution à la valeur d’un investissement en IA ne peut être calculée et, sans attribution aux équipes et aux processus, les dépenses ne peuvent pas être spécifiquement limitées. À cela s’ajoute un comportement typique : en l’absence de budget, de transparence et de motivation dans le choix du modèle, les utilisateurs ont généralement tendance à choisir le modèle le plus puissant disponible, même lorsqu’une option plus simple et moins chère donnerait le même résultat.
Les limites du contrôle traditionnel des coûts
Une protection apparemment évidente s’avère insuffisante lorsqu’il s’agit de dépenses en IA : bien qu’un limite de taux limite le nombre de requêtes dans une certaine fenêtre de temps et convient pour atténuer des processus défectueux individuels ou des pics de charge, le nombre de requêtes ne représente qu'une approximation des coûts qui en résultent, car les modèles et les longueurs de contexte diffèrent en prix de plusieurs ordres de grandeur. Une seule requête vers un modèle haut de gamme avec un contexte étendu peut coûter plus cher que des centaines de requêtes vers un modèle compact. La facturation par jetons n’est pas non plus d’une grande utilité, car les jetons ne constituent pas une variable de contrôle gérable pour les gestionnaires de budget. Ce qu’il faut donc, c’est un mécanisme de contrôle qui enregistre les dépenses cumulées en termes monétaires et qui fonctionne indépendamment du volume des demandes.
Contrôle des budgets en termes monétaires via un point centralisé
Une solution réalisable commence au point où les demandes quittent l’entreprise. Si l'accès aux fournisseurs de modèles est acheminé via une couche intermédiaire centrale, appelée AI Gateway, toutes les demandes passent par un point de contrôle défini avant d'atteindre le fournisseur concerné. À ce stade, il est possible d'enregistrer, de suivre et de contrôler la consommation et les coûts de tous les prestataires. Cela crée les conditions nécessaires à la définition des budgets, non pas en termes abstraits, mais en termes monétaires.
Pour qu’un tel contrôle budgétaire soit robuste dans un environnement commercial, il doit posséder plusieurs caractéristiques. Il est conseillé de fixer des limites avec un haut niveau de granularité, par modèle, par fournisseur et selon des dimensions librement définissables telles que l'utilisateur, l'équipe ou l'application. Les périodes de facturation doivent être configurables sur une base quotidienne, hebdomadaire et mensuelle, avec possibilité de réinitialisation fixe ou progressive. La consommation cumulée est calculée pour chaque demande sur la base des prix modèles et comparée en temps réel à la limite stockée. Si un budget atteint sa limite, deux réponses sont recommandées : bloquer les demandes supplémentaires en guise de limite stricte (casquette rigide) ou redirigez-les automatiquement vers un modèle plus pratique, afin que votre flux de travail ne soit pas interrompu. Les valeurs ainsi enregistrées sont basées sur le nombre de tokens et le prix du modèle et fournissent une estimation fiable du coût ; la facturation finale reste à la charge du fournisseur concerné.
Attribution de l'utilisation et des coûts basée sur l'identité
Les budgets granulaires ne réalisent tout leur potentiel que lorsque l’utilisation peut être attribuée de manière fiable à une identité. Les budgets basés sur les attributs de l’application appelante sont aussi fiables que l’application qui les fournit. Pour une attribution vérifiée et automatique, l’identité du demandeur doit être établie au niveau du point de contrôle.
Ceci est réalisé en intégrant la passerelle au système de gestion des identités existant de l'entreprise. Lorsqu'un utilisateur s'authentifie via le fournisseur d'identité d'entreprise, son identité peut être lue à partir du jeton émis et ajoutée à chaque demande en tant que métadonnées sécurisées. Sur cette base, la consommation par personne, la répartition par équipe et la répartition des coûts dans l'ensemble de l'organisation deviennent visibles en un seul endroit. Les budgets et les politiques peuvent ensuite être liés à des groupes gérés par le fournisseur d'identité, donnant par exemple à une équipe accès à des modèles performants tandis que d'autres départements s'orientent vers des modèles plus compacts. Cloudflare, par exemple, réalise cette attribution vérifiée via la connexion entre AI Gateway et le service Cloudflare Access, qui récupère l'identité du jeton d'authentification et l'attribue à chaque demande.
Cette approche revêt une importance particulière dans le cas des acteurs automatisés. Les pipelines CI/CD et les agents autonomes représentent une part croissante de la consommation d’IA sans utilisateur humain derrière eux. Si chacun de ces services se voit attribuer une identité dédiée via son propre compte de service, sa consommation peut être identifiée individuellement et, si nécessaire, spécifiquement limitée sans affecter les autres processus.
De la limitation des coûts à la sélection du modèle le mieux adapté à la tâche
Cependant, même si un budget fixe limite les dépenses, il n’exploite toujours pas tout le potentiel ; la prochaine étape consiste donc à attribuer le modèle le plus adapté au type d'activité. Une tâche récapitulative ou une simple classification peut être effectuée sur un modèle plus petit et moins cher sans aucune perte significative de qualité, tandis qu'une tâche complexe de refactorisation ou d'analyse justifie l'utilisation du modèle le plus puissant disponible. Le routage intelligent analyse la demande et l'attribue automatiquement au modèle offrant le meilleur résultat au moindre coût. L’accent passe ainsi de la simple limitation des dépenses à leur optimisation.
Gouvernance et protection des données dans le cadre de l’architecture de contrôle
Avec le suivi des consommations spécifiques aux utilisateurs, la problématique dépasse la sphère purement financière et devient une question de gouvernance. Une analyse attribuant la consommation d’IA aux individus soulève des questions de protection des données et, en Allemagne, également des aspects liés à la participation des salariés. Les délégués à la protection des données et les comités d'entreprise doivent donc être impliqués dès le début, avant que des analyses personnalisées ne soient introduites dans la production. Une approche progressive est également conseillée. Une limite initialement élevée définie en mode observation permet de révéler les modèles d’utilisation réels avant que les limites contraignantes n’entrent en vigueur. Pour les responsables de la sécurité, il existe également un autre élément crucial : interdire sans discernement certains services d’IA ne fait que déplacer leur utilisation vers des canaux non contrôlés. Un système de contrôle progressif basé sur la visibilité et des lignes directrices est plus efficace qu’une interdiction générale et intègre le contrôle des coûts dans des mesures plus larges visant à protéger l’utilisation de l’IA.
Conclusion : la contrôlabilité détermine le bénéfice économique
La diffusion de l’intelligence artificielle générative a mis au premier plan la question de la durabilité économique.
Tant que la consommation ne peut être retracée jusqu’à son origine, l’utilisation de l’IA reste une dépense sans réelle base de contrôle. La voie vers un contrôle efficace passe par un point de contrôle central qui rend visibles la consommation et les coûts entre les différents fournisseurs, les budgets exprimés en termes monétaires et ventilés de manière granulaire par utilisateurs, équipes et modèles, ainsi qu'une attribution vérifiée basée sur l'identité de l'entreprise. En intégrant une sélection de modèles adaptés aux tâches, cette approche évolue vers un mécanisme de contrôle qui non seulement limite, mais optimise également les dépenses. La consommation de l’IA devient ainsi un poste de coût régulièrement planifié et traçable, comme toute autre ressource de l’entreprise.
Voir l’article original en italien
