Les inquiétudes de la Maison Blanche concernant l'accès possible d'un groupe lié à la Chine au modèle Mythos ont été l'une des raisons des restrictions à l'exportation d'Anthropic. Semafor rapporte cela en référence à une source.
En parallèle, Business Insider et Axios ont cité les messages concernant le contournement de la protection de Fable 5 comme un autre déclencheur. Anthropic lui-même affirme qu'il s'agissait d'une méthode « étroite » et non universelle qui ne confère pas au modèle de capacités uniques.
Quel a été le déclencheur
Selon les médias, l'administration de Donald Trump aurait été alertée de soupçons d'accès à Mythos par un groupe associé à la Chine. Les journalistes n'ont pas précisé de quelle organisation ils parlaient, comment cela s'est produit et comment la Maison Blanche a eu connaissance de l'épisode.
Selon The Verge, la Maison Blanche n'a pas confirmé publiquement cette version. Un représentant d'Anthropic a déclaré à Semafor que le sujet de « l'accès chinois » à Mythos n'avait pas été abordé lors des négociations avec les autorités. L'entreprise interdit l'accès à ses produits en provenance de Chine.
Business Insider a noté que le 11 juin, le PDG d'Amazon, Andy Jesse, a informé l'administration présidentielle de la possibilité de contourner les restrictions de Fable 5. Selon l'interlocuteur de la publication, la société répondait à une demande de test du modèle. Selon Axios, le secrétaire américain au Commerce, Howard Lutnick, a envoyé une lettre au PDG d'Anthropic, Dario Amodei, soumettant Fable 5 et Mythos 5 à des contrôles à l'exportation en dehors des États-Unis et pour toutes les personnes étrangères dans le pays.
Les autorités auraient tenté de persuader Anthropic de suspendre volontairement l'accès aux modèles, mais la société n'a pas accepté. L'interlocuteur de la publication, proche de la startup, a contesté cette version et affirmé que la Maison Blanche avait donné 90 minutes à la startup pour désactiver les modèles, sans fournir de précisions sur la nature de la menace.
Le 13 juin, le conseiller de la Maison Blanche, David Sachs, a écrit dans X que l'administration avait reçu un avertissement concernant un possible contournement des protections de Fable 5 de la part d'un partenaire de confiance à la fois des autorités et d'Anthropic.
« L'administration espère qu'Anthropic résoudra le problème de sécurité, que les contrôles à l'exportation seront levés et que Fable reviendra dans le domaine public. […] La balle est dans le camp d'Anthropic », a écrit Sachs.
Position anthropique
Anthropic a déclaré que la lettre du gouvernement ne contenait pas de détails spécifiques sur les risques pour la sécurité nationale. Selon la société, les réclamations concernaient une méthode permettant de contourner la sécurité de Fable 5.
La startup affirme avoir étudié une démonstration de la technique. Selon son évaluation, cela a permis de trouver « un petit nombre de vulnérabilités mineures précédemment connues ». Anthropic a ajouté que d'autres modèles accessibles au public sont capables d'identifier les mêmes problèmes sans contourner la protection.
La société a également déclaré avoir passé « des milliers d'heures » à tester ses défenses avec le gouvernement américain, l'AI Security Institute du Royaume-Uni, des tiers et des équipes internes avant le lancement de Fable 5. Selon Anthropic, les testeurs n'ont pas encore trouvé de moyen universel pour contourner massivement les limites du modèle.
« Nous considérons qu'il s'agit d'un malentendu et nous nous efforçons de rétablir l'accès le plus rapidement possible », a déclaré la société.
9 juin Anthropic a présenté Fable 5 et Mythos 5. La société a appelé Fable 5 un modèle de classe Mythos pour un accès général. Mythos 5 utilise le même modèle de base, mais a assoupli les restrictions dans certains domaines et s'adresse aux cyberdéfenseurs et aux fournisseurs d'infrastructures critiques dans le cadre du projet Glasswing.
Le 2 juin, Anthropic a annoncé l'expansion du projet Glasswing à environ 150 organisations dans plus de 15 pays. Selon l'entreprise, les premiers partenaires du programme avaient alors découvert plus de 10 000 vulnérabilités élevées et critiques.
Rappelons qu'après la directive d'exportation des autorités américaines, qui obligeait Anthropic à limiter l'accès des citoyens étrangers aux modèles Fable 5 et Mythos 5, les tokens des projets d'IA décentralisés Venice et Morpheus ont augmenté respectivement de 14% et 21%.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE