La startup d'IA Anthropic a facturé 16,6 millions de dollars à l'utilisateur Claude sur le forfait gratuit. Un développeur sud-coréen sous le pseudonyme de remy_notes en a parlé sur le réseau social Threads.
Il a reçu sa première facture de 1,6 million de dollars le 7 juillet. Au début, le programmeur l'a confondue avec du phishing, mais moins de 24 heures plus tard, une deuxième lettre est arrivée exigeant le paiement – déjà de 16,6 millions de dollars.
L'expéditeur et le lien de paiement menaient au domaine officiel Anthropic et à son système de paiement Stripe. Le panneau remy_notes n'a montré aucune utilisation API. Il n'y avait pas non plus de clés de recharge sur le compte.
Le même jour, le 8 juillet, la carte bancaire du promoteur a rejeté à deux reprises les tentatives de prélèvement. Les deux transactions ont dépassé la limite de transaction unique. Les virements provenaient d'un vendeur américain appelé ANTHROP.
L'utilisateur a vérifié tous les processus en cours d'exécution sur son Mac mini, y compris huit agents IA, mais n'a rien trouvé qui puisse expliquer l'incident. Par mesure préventive, il a résilié l'abonnement de Claude Max et bloqué la carte liée.
Il a fallu quatre jours et environ 18 lettres de soutien pour clarifier les circonstances, a écrit le développeur. Certaines des réponses sont venues automatiquement – d’un agent Anthropic AI nommé Fin.
La plainte a ensuite été transférée au service de protection de la vie privée de l'entreprise. Dans le même temps, le système a continué à envoyer des demandes répétées de radiation du même montant. La banque a finalement bloqué la carte du développeur.
La réponse d'Anthropic
Le 12 juillet, Anthropic a confirmé l'erreur dans un e-mail adressé à remy_notes et a déclaré qu'elle n'avait pas radié un seul dollar. La société a cité comme cause une fonction de recharge automatique mal configurée et l’a désactivée par mesure de précaution.
Anthropic a lié cela au blocage de la carte : très probablement, la banque a réagi précisément aux tentatives de radiation infructueuses. L'équipe du projet a également souligné que personne n'avait piraté l'accès au compte du programmeur. Dans le même temps, le soutien n’a pas été en mesure d’expliquer pourquoi le système a généré exactement 16,6 millions de dollars.
Pas un cas isolé
Fin juin, The Information a rapporté, citant Vaudit, des trop-payés des entreprises clientes Anthropic et OpenAI. La société d'audit a audité des comptes totalisant 34 millions de dollars dans 60 organisations de mars à juin.
La plupart des factures concernaient l'utilisation de Claude Code d'Anthropic. Les experts ont identifié des frais excédentaires s'élevant à environ 1,7 million de dollars, soit environ 5 % du volume audité.
Vaudit a identifié plusieurs erreurs système. Les clients étaient parfois facturés aux tarifs des modèles plus récents alors que l’ancienne version la moins chère était réellement utilisée. Il y a eu des cas de radiations pour des demandes qui se sont soldées par une erreur ou n'ont pas donné de résultats.
Une catégorie distincte était constituée des « tempêtes de relecture », une situation dans laquelle un agent d'IA en arrière-plan répète à plusieurs reprises une tâche infructueuse, et chaque tentative est reflétée dans le score.
Suite aux demandes de Vaudit et des clients de l'entreprise, les fonds ont commencé à être restitués. Environ 80 % des trop-payés ont été compensés par Amazon, Google, Microsoft, Anthropic et OpenAI.
Rappelons qu'au printemps Anthropic était déjà confronté au mécontentement des utilisateurs en raison des limites de Claude Code – puis l'entreprise les a doublées après l'accord avec SpaceX.
Voir l’article original en russe
