Anthropic a suspendu l'accès à ses nouveaux modèles d'intelligence artificielle Fable 5 et Mythos 5 après avoir reçu une directive de contrôle des exportations du gouvernement américain liée à des problèmes de sécurité nationale.
Résumé
- Anthropic a suspendu Fable 5 et Mythos 5 après avoir reçu une directive américaine de contrôle des exportations.
- La société a déclaré que les responsables ont évoqué des problèmes de sécurité nationale liés à une potentielle méthode de jailbreak.
- Cette décision intervient quelques jours après le lancement des nouveaux modèles d’IA et dans un contexte d’expansion majeure des infrastructures.
Selon un communiqué publié vendredi par Anthropic, la société a reçu la directive à 17 h 21 HE, lui ordonnant de bloquer l'accès à Fable 5 et Mythos 5 à tous les ressortissants étrangers, qu'ils se trouvent à l'intérieur ou à l'extérieur des États-Unis. L’ordonnance s’appliquait également aux employés étrangers travaillant chez Anthropic.
Face à la directive, Anthropic a déclaré avoir désactivé les deux modèles pour tous les utilisateurs afin de garantir le respect des exigences du gouvernement. La société a ajouté que ses autres modèles, dont l'Opus 4.8, restent disponibles et ne sont pas concernés par les restrictions.
« Nous nous conformons à la directive légale du gouvernement et supprimons l'accès à Fable 5 et Mythos 5 pour tous les utilisateurs. »
Cette décision intervient quelques jours seulement après qu'Anthropic a présenté Fable 5 en tant que modèle de classe Mythos généralement disponible et a publié Mythos 5 pour un groupe limité d'utilisateurs approuvés en matière de cybersécurité et d'infrastructure.
Selon Anthropic, Fable 5 a été conçu pour gérer des tâches plus longues et plus complexes que les modèles Claude précédents et a fourni de solides performances dans les domaines du génie logiciel, de la recherche scientifique, de la finance, de la vision, de la mémoire et du travail de connaissances.
Les inquiétudes du gouvernement se concentrent sur un potentiel modèle de jailbreak
Bien que les autorités n'aient pas fourni de preuves détaillées à l'appui de cette ordonnance, Anthropic a déclaré croire que le gouvernement était préoccupé par une éventuelle technique de jailbreak qui pourrait contourner certaines des garanties de Fable 5.
Selon Anthropic, les responsables n'ont jusqu'à présent présenté que des preuves verbales de ce que la société a décrit comme un jailbreak restreint et non universel. La société a déclaré que la méthode signalée consiste à demander au modèle d'analyser une base de code spécifique et d'identifier ou de réparer les vulnérabilités logicielles.
Anthropic a expliqué qu'un jailbreak non universel diffère considérablement d'un jailbreak universel car il ne supprime pas largement les protections de sécurité d'un modèle dans un large éventail de tâches.
« Nous ne sommes pas d'accord sur le fait que la découverte d'un jailbreak potentiel étroit devrait être une raison pour rappeler un modèle commercial déployé auprès de centaines de millions de personnes. Si cette norme était appliquée dans l'ensemble de l'industrie, nous pensons qu'elle mettrait essentiellement fin à tous les déploiements de nouveaux modèles pour tous les fournisseurs de modèles frontières. «
Dans le même temps, Anthropic a déclaré qu'elle travaillait avec les autorités et pensait que la directive pourrait résulter d'un malentendu. La société a déclaré qu'elle cherchait à rétablir l'accès le plus rapidement possible.
L'expansion de l'infrastructure se poursuit malgré les restrictions de modèle
Même si l'accès à Fable 5 et Mythos 5 reste suspendu, Anthropic continue d'étendre sa capacité de calcul pour les futurs systèmes d'IA.
Comme le rapporte crypto.news, les sociétés de crédit privées Blackstone et Apollo Global Management syndiquent environ 36 milliards de dollars de financement pour soutenir la prochaine phase de dépenses d'infrastructure d'Anthropic. Reuters a rapporté que les fonds seraient utilisés pour acquérir des puces d'unité de traitement tenseur personnalisées de Google, soutenues par la technologie Broadcom, qu'Anthropic envisage de louer pour ses opérations d'IA.
Par ailleurs, Anthropic a exhorté les gouvernements à établir des règles pour les systèmes d’IA frontaliers à mesure que les capacités des modèles progressent. L'entreprise a proposé des mesures politiques couvrant les déploiements dangereux, les évaluations indépendantes, les garanties de cybersécurité et la préparation économique des travailleurs touchés par l'adoption de l'IA.
Ces recommandations politiques arrivent maintenant alors qu’Anthropic se retrouve au centre de l’une des interventions gouvernementales les plus importantes impliquant un nouveau modèle d’IA frontalier.
Voir l’article original en anglais
