La société d'intelligence artificielle Anthropic a accusé trois sociétés d'IA d'utiliser illégalement son grand modèle de langage Claude pour améliorer leurs propres modèles dans le cadre d'une technique connue sous le nom d'attaque par « distillation ».
Dans un article de blog publié dimanche, Anthropic a déclaré avoir identifié ces « attaques » de DeepSeek, Moonshot et MiniMax, qui impliquent la formation d'un modèle moins performant sur les résultats d'un modèle plus puissant.
Anthropic a accusé le trio d'avoir généré « plus de 16 millions d'échanges » combinés avec l'IA Claude de l'entreprise sur « environ 24 000 comptes frauduleux ».
« La distillation est une méthode de formation largement utilisée et légitime. Par exemple, les laboratoires d'IA de pointe distillent régulièrement leurs propres modèles pour créer des versions plus petites et moins chères pour leurs clients », a écrit Anthropic, ajoutant :
« Mais la distillation peut également être utilisée à des fins illicites : les concurrents peuvent l’utiliser pour acquérir de puissantes capacités auprès d’autres laboratoires en une fraction du temps et à une fraction du coût qu’il faudrait pour les développer de manière indépendante. »
Anthropic a déclaré que les attaques visaient à récupérer Claude à des fins très diverses, notamment le raisonnement agent, le codage et l'analyse de données, les tâches de notation basées sur des rubriques et la vision par ordinateur.
« Chaque campagne ciblait les capacités les plus différenciées de Claude : le raisonnement agentique, l'utilisation d'outils et le codage », a déclaré la société d'IA de plusieurs milliards de dollars.
Anthropic affirme avoir pu identifier le trio via une « corrélation d'adresses IP, des métadonnées de requête, des indicateurs d'infrastructure et, dans certains cas, la corroboration de partenaires industriels qui ont observé les mêmes acteurs et comportements sur leurs plateformes ».
DeepSeek, Moonshot et Minimax sont toutes des sociétés d'IA basées en Chine. Tous trois ont des valorisations estimées à plusieurs milliards de dollars, DeepSeek étant le plus largement reconnu au niveau international des trois.
Au-delà des implications en matière de propriété intellectuelle, Anthropic a fait valoir que les campagnes de distillation des concurrents étrangers présentent de véritables risques géopolitiques.
« Les laboratoires étrangers qui distillent les modèles américains peuvent ensuite intégrer ces capacités non protégées dans les systèmes militaires, de renseignement et de surveillance, permettant aux gouvernements autoritaires de déployer une IA de pointe pour des cyberopérations offensives, des campagnes de désinformation et une surveillance de masse », a déclaré la société.
À l'avenir, Anthropic a déclaré qu'elle se protégerait en améliorant les systèmes de détection pour aider à détecter le trafic douteux, en partageant des renseignements sur les menaces et en renforçant les contrôles d'accès, entre autres.
En rapport: Le rapport de Citrini sur la catastrophe de l'IA voit les logiciels et les stocks de paiement chuter
L’entreprise a également appelé à davantage de collaboration de la part des acteurs de l’industrie nationale et des législateurs pour empêcher les sociétés étrangères d’IA d’attaquer les entreprises américaines.
« Aucune entreprise ne peut résoudre ce problème seule. Comme nous l'avons noté plus haut, les attaques par distillation à cette échelle nécessitent une réponse coordonnée de l'industrie de l'IA, des fournisseurs de cloud et des décideurs politiques. Nous publions ceci pour mettre les preuves à la disposition de toutes les personnes concernées par le résultat. »
Revue: Crypto adore Clawdbot/Moltbot, les notes Uber pour les agents IA : AI Eye
Voir l’article original en anglais
