Anthropic accuse les laboratoires chinois d'avoir volé les données de Claude : les critiques se moquent

Anthropic accuse les laboratoires chinois d'avoir volé les données de Claude : les critiques se moquent

En résumé

  • Anthropic a accusé DeepSeek, Moonshot et MiniMax d'avoir extrait 16 millions de réponses de Claude avec 24 000 faux comptes.
  • La société a averti que la distillation illicite peut éliminer les garanties et introduire des capacités dans les systèmes militaires et de surveillance étrangers.
  • L'annonce a suscité des critiques sur X, où les utilisateurs ont souligné qu'Anthropic avait également formé Claude avec du contenu Internet sans autorisation explicite.

Anthropic a accusé trois laboratoires d'IA chinois d'avoir récupéré des millions de réponses de son chatbot Claude pour former des systèmes concurrents, une décision qui, selon la société, viole ses conditions de service et affaiblit les contrôles américains à l'exportation.

Dans un article de blog publié lundi, Anthropic a déclaré avoir identifié des « campagnes à l'échelle industrielle » menées par les développeurs d'IA DeepSeek, Moonshot et MiniMax pour extraire les capacités de Claude grâce à la distillation de modèles. La société a affirmé que les laboratoires avaient généré plus de 16 millions de transactions en utilisant environ 24 000 comptes frauduleux.

L'annonce d'Anthropic a été accueillie avec scepticisme et ridicule

« Vous vous êtes entraîné avec l'Internet ouvert et vous appelez cela des 'attaques par distillation' lorsque d'autres apprennent de vous », a écrit Tory Green, co-fondateur de la société d'infrastructure d'IA IO.Net. « Les laboratoires qui aiment prêcher la 'recherche ouverte' se mettent soudain à crier au sujet du libre accès. »

« Ohhh non, pas mon IP privée, comment osent-ils utiliser ça pour entraîner un modèle d'IA, seul Anthropic a le droit d'utiliser l'IP de tout le monde, non, cela ne peut pas être toléré ! » » a écrit un autre utilisateur X.

La distillation est une méthode de formation en IA dans laquelle un modèle plus petit apprend des résultats d'un modèle plus grand.

Dans les contextes de cybersécurité, il peut également décrire des attaques de model mining, dans lesquelles un attaquant utilise un accès légitime pour interroger systématiquement un système et utiliser ses réponses pour entraîner un modèle concurrent.

« Ces campagnes gagnent en intensité et en sophistication », a écrit Anthropic lundi. « La fenêtre d'action est étroite et la menace s'étend au-delà d'une seule entreprise ou région. Pour y faire face, il faudra une action rapide et coordonnée entre l'industrie, les décideurs politiques et la communauté mondiale de l'IA. »

« La distillation peut être légitime : les laboratoires d'IA l'utilisent pour créer des modèles plus petits et moins chers pour leurs clients », a écrit Anthropic dans un autre article sur

En juin, Reddit a poursuivi Anthropic, l'accusant d'avoir supprimé plus de 100 000 publications et commentaires et d'avoir utilisé les données pour peaufiner Claude.

L'affaire s'ajoute aux poursuites contre OpenAI, Meta et Google pour grattage à grande échelle de contenu en ligne sans autorisation.

« [Existe] le visage public qui tente de gagner la conscience du consommateur avec des revendications de droiture et de respect des frontières et de la loi, et le visage privé qui ignore toutes les règles qui interfèrent avec ses tentatives de continuer à remplir ses poches », indique le procès de Reddit.

Anthropic a déclaré qu'elle étendait la détection, renforçait la vérification des comptes, partageait des renseignements avec d'autres laboratoires et autorités et ajoutait des garanties pour limiter les futures tentatives de distillation.

« Mais aucune entreprise ne peut résoudre ce problème seule », a écrit Anthropic. « Comme nous l'avons noté précédemment, les attaques par distillation de cette ampleur nécessitent une réponse coordonnée entre l'industrie de l'IA, les fournisseurs de cloud et les décideurs politiques. »

Débriefing quotidien Bulletin

Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.



Voir l’article original en espagnol