OpenAI, Anthropic et Google s'associent pour empêcher les concurrents chinois de copier leurs modèles d'IA les plus avancés. Cette alliance rare montre à quel point les laboratoires américains prennent désormais au sérieux le vol de modèles et ce qu'ils considèrent comme un risque croissant pour la sécurité nationale.
Pourquoi les grands laboratoires d’IA unissent leurs forces
Selon un rapport de Bloomberg, les trois sociétés partagent des renseignements sur les menaces via le Frontier Model Forum, une organisation industrielle à but non lucratif qu'elles ont cofondée avec Microsoft en 2023. Par ce canal, elles signalent les tentatives d'utilisateurs chinois de « distiller » leurs modèles d'une manière qui viole les conditions de service des plateformes.
Dans ces cas, les développeurs chinois interrogent à plusieurs reprises des systèmes comme ChatGPT, Claude ou Gemini, puis utilisent les résultats pour former des modèles de copie moins chers. Les responsables américains estiment que ces expériences de distillation illicite coûtent chaque année aux laboratoires de la Silicon Valley des milliards de dollars de bénéfices.
La distillation est une technique courante dans l’apprentissage automatique dans laquelle un modèle « étudiant » plus petit apprend des réponses d’un modèle « enseignant » plus grand, acquérant souvent des capacités similaires à moindre coût. OpenAI, Google et Anthropic utilisent la distillation en interne pour compresser leurs systèmes, et autorisent une certaine utilisation externe tant qu'elle n'est pas directement en concurrence.
Le problème, disent-ils, est la « distillation contradictoire », où des laboratoires extérieurs bombardent les modèles américains avec des entrées automatisées pour copier les recherches fondamentales sur le comportement et la sécurité sans investir dans la formation initiale. OpenAI a déclaré aux législateurs américains que la société chinoise DeepSeek essayait de « s’appuyer sur les capacités développées par OpenAI et d’autres grands laboratoires américains ». Anthropic a également accusé des entreprises ayant des liens avec la Chine, notamment DeepSeek, Moonshot et MiniMax, d'avoir extrait des capacités de son modèle Claude, puis de supprimer les garanties.
Nouvelles stratégies de détection et d’application
En réponse, les entreprises développent des technologies pour détecter des modèles de trafic inhabituels qui pourraient indiquer des tentatives de clonage ou de scraping automatisé. Ils recherchent des signes indiquant qu'un robot – plutôt qu'un utilisateur normal – tente de recréer le modèle, comme des recherches volumineuses et organisées et des invites répétées sur différents comptes.
Pour rendre la copie plus difficile, les entreprises peuvent suspendre des comptes, bloquer des plages d'adresses IP ou modifier les limites de débit et les formats de sortie. Dans une note au Congrès, OpenAI a déjà révisé ses conditions de service et souligné l'extraction de modèles comme un risque sécuritaire et économique. Après avoir identifié de nombreuses tentatives de scraping, Anthropic a complètement interdit aux entreprises chinoises d'utiliser Claude l'année dernière.
EN SAVOIR PLUS: Filecoin (FIL) vise 11,40 $ à l'approche d'une cassure du biseau descendant