TLDR :
- Le gouvernement américain a publié une directive de contrôle des exportations ordonnant à Anthropic de suspendre tout accès à Fable 5 et Mythos 5 dans le monde.
- Anthropic a examiné le rapport de jailbreak et a découvert que les fonctionnalités étaient déjà disponibles dans des modèles comme le GPT-5.5 d'OpenAI.
- Le jailbreak signalé impliquait de demander à Fable 5 de lire une base de code et de signaler les failles logicielles, sans qu'aucun résultat nuisible ne soit divulgué.
- Anthropic a averti que la norme de rappel, si elle était appliquée à l’échelle de l’industrie, mettrait effectivement un terme à tous les déploiements de modèles d’IA frontaliers.
Anthropic a désactivé l'accès mondial à Fable 5 et Mythos 5 suite à une directive de contrôle des exportations du gouvernement américain.
L'ordre, reçu à 17 h 21 HE, cite des problèmes de sécurité nationale liés à une méthode de jailbreak signalée. Tous les autres modèles Anthropic restent disponibles.
L'entreprise affirme se conformer à la directive tout en contestant le fondement technique de la décision.
Une directive gouvernementale cible la méthode de jailbreak signalée
Le gouvernement américain a publié cette directive sans divulguer par écrit des détails spécifiques sur la sécurité nationale. Les responsables ont communiqué verbalement qu'ils avaient découvert une méthode capable de contourner les garanties de Fable 5.
Anthropic a examiné une démonstration de cette technique et a découvert qu'elle ne révélait que des vulnérabilités mineures déjà connues.
La société a examiné ce qu'elle estime être le rapport qui sous-tend la décision du gouvernement. Anthropic a déclaré que le niveau de capacité affiché « est largement disponible sur d'autres modèles, y compris le GPT-5.5 d'OpenAI, et est utilisé quotidiennement par les défenseurs qui assurent la sécurité des systèmes. » Cet examen n’a trouvé aucune amélioration spécifique à Fable dans les résultats.
Le jailbreak signalé impliquait essentiellement de demander au modèle de lire une base de code et d'identifier les failles logicielles. Anthropic l'a confirmé « n'a même pas reçu de divulgation d'un jailbreak potentiel non universel et inquiétant qui aurait conduit à un résultat préjudiciable. » Les jailbreaks potentiels révélés étaient soit entièrement inoffensifs, soit classés comme des découvertes mineures.
La directive exige la suspension de l'accès pour tous les ressortissants étrangers, y compris les employés d'Anthropic ayant un statut d'étranger, tant à l'intérieur qu'à l'extérieur des États-Unis. La société a déclaré que la conformité signifiait désactiver les modèles pour tous les clients afin d'éviter toute violation de la commande.
Anthropic conteste la norme appliquée aux modèles commerciaux
Anthropic a lancé Fable 5 avec une stratégie de défense en profondeur, combinant une résistance étroite au jailbreak avec une surveillance en temps réel et une conservation obligatoire des données pendant 30 jours.
La société a reconnu lors du lancement que « une résistance parfaite au jailbreak n’est actuellement possible pour aucun fournisseur de modèles ».
La politique de conservation des données de 30 jours était un compromis délibéré. Cela a suscité des réactions de la part des clients, mais a permis à Anthropic de détecter, d'étudier et de répondre rapidement aux tentatives de jailbreak.
Anthropic a décrit cela comme rendant les jailbreaks « soit étroits, soit très coûteux à produire », maintenant des niveaux de risque comparables à ceux d'autres modèles déployés dans l'industrie.
Concernant l'autorité du gouvernement à agir, Anthropic a déclaré : «estime que le gouvernement devrait avoir la capacité de bloquer les déploiements dangereux, dans le cadre d’un processus statutaire transparent, équitable, clair et fondé sur des faits techniques. L'entreprise a fait valoir que cette directive ne respectait pas ces normes.
Anthropic a averti que l'application large de cette norme de rappel « arrêterait essentiellement tous les déploiements de nouveaux modèles pour tous les fournisseurs de modèles frontières. »
La société s'est engagée à publier des détails techniques supplémentaires dans les 24 heures et a confirmé que tous les autres modèles de sa gamme continuent de fonctionner sans restriction.
Voir l’article original en anglais
