Développeur d'IA basé aux États-Unis Anthropique a rapporté une faille de sécurité « à l'échelle industrielle » de ses modèles de langage Claude, dans laquelle des milliers de comptes frauduleux auraient tenté de reproduire les capacités avancées d'IA de l'entreprise.
Selon la société, trois laboratoires d'IA basés en Chine – DeepSeek, Moonshot AI et MiniMax – ont été impliqués dans des tentatives à grande échelle visant à extraire les capacités de Claude et « à améliorer leurs propres modèles ».
Anthropic a identifié environ 24 000 comptes frauduleux générant plus de 16 millions d'échanges avec ses systèmes.
Anthropic est surtout connu pour sa famille de modèles d'IA Claude. Contrairement à certains développeurs d’IA qui privilégient la rapidité de mise sur le marché ou les applications d’IA à usage général, la société met l’accent sur des fonctionnalités de sécurité robustes, telles que la prévention des sorties nuisibles et la résistance à une utilisation manipulatrice.
Comment la violation s'est produite
Anthropic a déclaré que les attaques impliquaient la distillation de modèles, une technique largement utilisée et légitime qui « implique de former un modèle moins performant sur les résultats d’un modèle plus fort ».
Lorsqu'il est utilisé sans autorisation, a averti l'entreprise, ce processus peut contourner les protections de sécurité intégrées à Claude.
Les interactions auraient ciblé des capacités de haut niveau telles que le raisonnement, le codage et l'utilisation d'outils – des fonctions qui définissent la conception avancée des modèles Claude.
Risques et réponse de l’industrie
La société a averti que la réplication non autorisée de modèles d’IA peut créer des systèmes dépourvus de protections de sécurité critiques. De tels modèles pourraient être utilisés à mauvais escient dans des situations où l’IA influence la prise de décision, notamment dans les systèmes automatisés des secteurs financiers ou autres.
Anthropic a également souligné les difficultés liées à l'application des restrictions d'accès et à la protection de la propriété intellectuelle au-delà des frontières.
En réponse, Anthropic a renforcé la vérification des comptes et la surveillance comportementale pour empêcher tout accès automatisé à grande échelle. Il partage également des renseignements avec d’autres développeurs d’IA et autorités et améliore les protections au niveau des produits et des API pour réduire l’efficacité de la distillation illicite.
L’entreprise a appelé à des efforts coordonnés au sein du secteur de l’IA, des fournisseurs de cloud et des régulateurs pour faire face à ces risques.
Le rôle de Claude AI dans les opérations de crypto-monnaie
Bien que Claude ne soit pas un moteur de trading, la violation a des implications sur le marché des crypto-monnaies, où l'IA prend de plus en plus en charge l'analyse des transactions, la gouvernance DeFi et l'automatisation des flux de travail.
De grandes entreprises comme Coinbase utilisent Claude pour le support client et l'assistance interne, tandis que des plateformes telles que Crypto.com l'intègrent pour fournir des données et des informations sur le marché en temps réel. Les développeurs peuvent également connecter Claude à des outils et flux de données externes, permettant ainsi aux applications d'interagir avec les informations cryptographiques.
Pourquoi c'est important
L’incident souligne les risques de réplication non autorisée de l’IA, qui pourrait compromettre la sécurité, perturber les opérations et affecter l’utilisation croissante de l’IA dans les cryptomonnaies et les systèmes financiers. Il met également en lumière les défis réglementaires alors que les autorités naviguent à l’intersection de l’IA avancée et des technologies financières.
Consultez les actualités cryptographiques tendances de DailyCoin aujourd'hui :
Crypto.com obtient l'approbation conditionnelle de l'OCC pour la charte de la National Trust Bank
Le RLUSD de Ripple approche le plafond de 2 milliards de dollars, mais cela augmentera-t-il le XRP ?
Les gens demandent également :
Claude est la famille de modèles de langage d'IA d'Anthropic, conçus pour la compréhension, le raisonnement, le codage et l'utilisation d'outils du langage naturel, avec des fonctionnalités de sécurité intégrées.
Que s'est-il passé lors de la brèche anthropique ?
Des milliers de comptes non autorisés auraient accédé à Claude AI, tentant de reproduire ses capacités à l'aide d'une technique appelée distillation de modèles.
Aucune preuve ne suggère que Claude AI ait été utilisé pour exécuter des transactions ou manipuler les marchés. La violation met en évidence des risques opérationnels et de sécurité potentiels, et non une menace active sur le marché.
Vibe Check de DailyCoin : vers quelle direction vous penchez-vous après avoir lu cet article ?