Anthropic a déclaré avoir identifié des campagnes à grande échelle menées par DeepSeek, Moonshot AI et MiniMax pour extraire illégalement les capacités de ses modèles Claude.
La société a déclaré que les trois laboratoires avaient généré plus de 16 millions d'échanges avec Claude via environ 24 000 comptes frauduleux, violant les conditions de service et les restrictions d'accès régionales. Anthropic a attribué les campagnes en utilisant des corrélations IP, des métadonnées, des indicateurs d'infrastructure et la corroboration de partenaires industriels.
Selon Anthropic, les laboratoires ont utilisé la « distillation », une méthode qui entraîne un modèle plus petit sur les résultats d’un modèle plus performant. Bien qu'elle soit largement utilisée en interne par les laboratoires frontaliers pour créer des versions plus légères de leurs propres systèmes, Anthropic a déclaré que la technique a été déployée ici pour reproduire à grande échelle les capacités de raisonnement, de codage et d'utilisation d'outils de Claude.
DeepSeek aurait organisé plus de 150 000 échanges axés sur des tâches de raisonnement et obtenant des explications détaillées étape par étape pour générer des données de formation. Moonshot a mené plus de 3,4 millions d'échanges ciblant le raisonnement agentique, le codage et l'utilisation de l'ordinateur.
MiniMax a représenté plus de 13 millions d'échanges, Anthropic détectant l'activité alors qu'elle était en cours et observant les changements de trafic suite aux sorties de nouveaux modèles.
Anthropic a averti que les modèles construits par distillation illicite pourraient manquer de garde-fous de sécurité conçus pour empêcher toute utilisation abusive dans des domaines tels que les cyberopérations ou les menaces biologiques. La société a fait valoir qu'une telle activité pourrait affaiblir les contrôles américains sur les exportations en permettant aux laboratoires étrangers de reproduire des capacités censées être restreintes.
Pour contrer ces campagnes, Anthropic a déclaré avoir déployé de nouveaux systèmes de détection comportementale, renforcé la vérification des comptes, partagé des renseignements avec ses pairs du secteur et les autorités, et développé des protections au niveau des produits et des API pour réduire l'efficacité de la distillation sans dégrader le service pour les utilisateurs légitimes.
La société a déclaré que la distillation à grande échelle nécessiterait une action coordonnée entre les laboratoires d’IA, les fournisseurs de cloud et les décideurs politiques.