Anthropic a supprimé une fonctionnalité de surveillance secrète dans Claude Code après que des chercheurs en sécurité ont révélé son existence et remis en question le manque de transparence. L'entreprise affirme que le mécanisme a servi à mettre fin aux abus et à empêcher l'extraction de ses modèles d'intelligence artificielle, mais le manque de notification aux utilisateurs a déclenché un débat sur la confidentialité dans les outils de développement assistés par l'IA.
La découverte a été révélée grâce à une analyse technique détaillant comment l’outil a inséré des signaux cachés dans les interactions. Selon un rapport publié par le chercheur Thereallo, le système utilisait des techniques de stéganographie dans les invites, c'est-à-dire des informations cachées dans le texte que l'utilisateur ne pouvait pas voir à l'œil nu.
Ce que les chercheurs ont découvert
La stéganographie consiste à cacher des données dans d'autres contenus apparemment normaux. Dans ce cas, des marqueurs invisibles auraient été intégrés dans les instructions traitées par Claude Code, l'outil de programmation d'Anthropic. Pour les critiques, le problème n’était pas l’objectif déclaré – protéger la propriété intellectuelle du modèle – mais plutôt le fait que ce suivi fonctionnait à l’insu ou sans le consentement de ceux qui utilisaient le produit.
Le sujet a rapidement dégénéré sur les réseaux. L'un des chercheurs l'a documenté dans X, ce qui a amplifié la conversation entre les développeurs et les spécialistes de la sécurité qui voyaient en pratique un précédent inconfortable pour l'ensemble du secteur des assistants de code.
Réactions et pressions extérieures
La controverse ne se limitait pas au débat technique. Alibaba a interdit à son personnel d'utiliser Claude Code en raison de préoccupations concernant ce qu'il a décrit comme un comportement similaire à celui d'un logiciel espion, a rapporté le South China Morning Post. La décision d’une entreprise technologique de cette envergure montre à quel point une question de confiance peut se traduire par des conséquences commerciales concrètes.
Anthropic a défendu l'objectif initial de la fonctionnalité : la société a indiqué qu'elle cherchait à détecter et bloquer les tentatives de model scraping et d'abus, une pratique dans laquelle des acteurs malveillants tentent de reconstruire ou de cloner le comportement d'un système d'IA via des requêtes massives. L’argument sécuritaire se heurte cependant à l’exigence de transparence que les utilisateurs réclament avec de plus en plus de force.
Pourquoi c'est important au-delà de l'IA
L’épisode touche une corde sensible qui traverse également le secteur de la cryptographie : la tension entre la protection d’un produit et le droit des utilisateurs de savoir quelles données sont collectées et comment. Les outils de développement sont devenus des éléments centraux à la fois pour les équipes qui créent des applications traditionnelles et pour celles qui programment des contrats intelligents et des protocoles décentralisés.
Pour de nombreux développeurs travaillant avec du code sensible, la confiance dans la chaîne d’outils est une exigence fondamentale. Un mécanisme de suivi non divulgué, aussi bien intentionné soit-il, peut éroder cette confiance et pousser les équipes vers des alternatives open source ou auditables.
Le retrait de la fonction répond à cette pression, mais laisse ouvertes des questions fondamentales sur la limite entre la défense d’un modèle d’IA et le respect de la vie privée de ceux qui l’utilisent. L’affaire servira de référence pour les discussions à venir sur la manière dont les entreprises d’IA équilibrent sécurité et transparence.
Voir l’article original en espagnol
