La société d’intelligence artificielle Anthropic a exhorté le Congrès américain à établir des contrôles plus stricts contre la soi-disant distillation de modèles d’IA par ses concurrents chinois. Selon l'entreprise, les opérateurs liés à Alibaba auraient utilisé près de 25 000 comptes frauduleux pour générer 28,8 millions d'échanges avec son modèle Claude, dans ce qu'elle décrit comme un effort coordonné pour extraire des connaissances de ses systèmes.
L’affaire relance un débat clé dans l’industrie technologique : la sécurité des modèles d’IA avancés par rapport aux techniques qui permettent de reproduire leurs capacités sans les développer à partir de zéro, avec des implications à la fois commerciales et géopolitiques.
Qu'est-ce qu'une attaque de distillation
Le distillation est une technique par laquelle un modèle d'IA plus petit et moins cher est formé en utilisant les réponses d'un modèle plus grand et plus coûteux. En pratique, le modèle « étudiant » apprend à imiter le comportement du modèle « maître » en lui posant des millions de requêtes et en enregistrant ses réponses.
Bien que la distillation soit une pratique légitime dans le développement de l’IA, elle peut devenir un problème lorsqu’elle est utilisée pour copier massivement et sans autorisation les capacités d’un modèle étranger. Une analyse des attaques par distillation a souligné la nécessité d’une intervention gouvernementale ciblée pour lutter contre ce type de pratiques.
La plainte anthropique
Selon ce qui a été rapporté, Anthropic affirme que les opérateurs affiliés à Alibaba ont utilisé un réseau d'environ 25 000 comptes frauduleux pour contourner les limites d'utilisation et accumuler un volume massif d'interactions avec Claude. Les 28,8 millions de métiers cités représenteraient un effort systématique pour exploiter les réponses des modèles à grande échelle.
L’entreprise considère cette activité comme un risque pour la sécurité nationale et la concurrence déloyale, arguant qu’elle permet à ses concurrents étrangers de profiter des investissements de plusieurs millions de dollars que les entreprises américaines consacrent à la formation de modèles pionniers, sans en assumer les coûts.
Implications pour l'industrie
La demande d'Anthropic s'inscrit dans une tension plus large entre les États-Unis et la Chine sur le leadership en matière d'intelligence artificielle. Ces derniers mois, l’apparition de modèles chinois très compétitifs et à coûts réduits a intensifié les suspicions sur l’utilisation de techniques de distillation issues des systèmes occidentaux.
Pour l’écosystème technologique, l’épisode soulève des questions sur la manière de protéger la propriété intellectuelle des modèles d’IA lorsqu’ils sont proposés sous forme de services accessibles via des interfaces de programmation. Les entreprises sont confrontées à un dilemme : ouvrir leurs modèles au public pour générer des revenus et les adopter, ou les protéger pour empêcher la copie de leurs capacités.
Une éventuelle réponse législative pourrait inclure des restrictions plus strictes, des mécanismes de détection des abus et de nouvelles obligations de vérification de l’identité des utilisateurs de services d’IA. Toutefois, toute mesure devra trouver un équilibre entre la protection de l’innovation et le risque de fragmenter davantage l’accès mondial à ces technologies.
Le résultat de cette pression réglementaire pourrait créer un précédent dans la manière dont les gouvernements abordent la sécurité des modèles d’IA dans un environnement de plus en plus compétitif et géopolitiquement sensible.