En résumé
- Anthropic a rapporté que les opérateurs liés à Alibaba ont généré 28,8 millions d'échanges avec Claude en utilisant 25 000 faux comptes.
- La société a qualifié l’exploitation minière de menace à la sécurité nationale qui accélère les capacités militaires d’IA en Chine.
- Anthropic a appelé le Congrès à des sanctions, à des contrôles des exportations et à une coopération gouvernement-industrie contre l’exploitation minière modèle.
Anthropic appelle le Congrès à renforcer les protections contre la distillation des modèles d'IA, après avoir affirmé que les opérateurs affiliés à Alibaba avaient entrepris le plus grand effort connu pour extraire les capacités de son chatbot Claude.
Dans une lettre du 10 juin adressée au président de la commission sénatoriale des banques, du logement et des affaires urbaines, Tim Scott, et à Elizabeth Warren, membre du classement, Anthropic a affirmé que les commerçants affiliés à Alibaba et à son laboratoire d'IA Qwen avaient généré plus de 28,8 millions de transactions avec Claude entre le 22 avril et le 5 juin, en utilisant près de 25 000 « comptes frauduleux », c'est-à-dire des comptes qui ne représentaient pas des utilisateurs réels ou organiques.
Connue sous le nom d'attaque par distillation, Anthropic a noté que les opérations ciblaient les capacités de raisonnement agentique, d'ingénierie logicielle et de planification à long terme de Claude, ce qui permettrait aux concurrents de reproduire le comportement avancé du modèle sans le coût de formation d'un système d'IA de pointe.
« Au-delà de son ampleur, cette campagne s'est distinguée par son caractère effronté », a écrit Anthropic. « Alibaba est cotée à la Bourse de New York, exerce ses activités commerciales aux États-Unis et est responsable devant les investisseurs et les régulateurs américains. »
Anthropic a affirmé que la campagne allait au-delà des préoccupations de propriété intellectuelle, présentant la distillation de modèles à grande échelle comme un problème de sécurité nationale susceptible d'accélérer les capacités militaires et de cyber-IA de la Chine, tout en réduisant l'avantage technologique des États-Unis.
Cette lettre intervient alors que Washington intensifie ses efforts pour protéger le leadership américain en matière d’IA. Plus tôt ce mois-ci, le président Donald Trump a signé un décret élargissant les initiatives de cybersécurité basées sur l'IA, après avoir reporté cette décision par crainte d'affaiblir la position concurrentielle des États-Unis par rapport à la Chine.
« Lorsque les laboratoires de la RPC extraient ces capacités des modèles américains, ils capturent les retours sur investissements américains sans assumer les coûts et les risques associés à la formation de modèles d'IA pionniers », a écrit Anthropic. « Cela renverse la logique économique qui sous-tend le leadership américain dans le domaine de l'IA, transformant des milliards de dollars en recherche et développement, en informatique et autres investissements américains en subventions pour nos concurrents. »
Anthropic a exhorté les législateurs à étendre le partage de renseignements entre les développeurs d'IA de pointe et le gouvernement américain, à clarifier les règles antitrust pour permettre aux sociétés d'IA de partager des informations sur les attaques par distillation, à renforcer les contrôles à l'exportation sur les puces et l'informatique d'IA avancées, à combler les lacunes qui permettent aux entreprises chinoises d'accéder aux centres de données à l'étranger et à imposer des sanctions aux entreprises responsables de l'exploitation minière de modèles à grande échelle.
Un porte-parole d'Anthropic a refusé de commenter spécifiquement la lettre, mais a souligné Décrypter: « Nous pensons que lutter contre la menace de distillation illicite nécessite une action coordonnée entre le gouvernement et l'industrie, et nous continuerons à travailler avec le Congrès et l'administration pour maintenir le leadership américain en matière d'IA. »
La lettre s'appuie également sur les affirmations d'Anthropic de février selon lesquelles les développeurs chinois d'IA DeepSeek, Moonshot AI et MiniMax auraient généré plus de 16 millions de transactions avec Claude en utilisant environ 24 000 comptes frauduleux.
Ces accusations ont suscité des critiques de la part d’observateurs, affirmant que les entreprises d’IA s’appuient sur des techniques similaires pour former leurs propres systèmes. Anthropic a répondu que la distillation conventionnelle est une méthode légitime pour produire des modèles plus petits et moins chers, tandis que l'extraction non autorisée de capacités de modèles frontières via un accès frauduleux viole ses conditions de service.
Le débat plus large sur la distillation est devenu plus complexe ces derniers mois. En avril, Elon Musk a témoigné devant un tribunal fédéral que xAI avait « partiellement » utilisé des modèles OpenAI lors de la formation de Grok, soulignant que la distillation est une pratique établie dans l'industrie, alors même que les entreprises débattent de la fin de la formation des modèles légitimes et du début de l'exploitation minière non autorisée.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.
Voir l’article original en espagnol
