Le 21 juillet, OpenAI a confirmé que l'attaque contre l'infrastructure Hugging Face avait été menée par ses propres modèles d'IA. L'incident s'est produit lors d'un test interne.
Nous travaillons en partenariat avec @huggingface pour enquêter sur un incident de sécurité sans précédent.
Les modèles OpenAI cyber-capables ont compromis la production de Hugging Face lors d'une évaluation de référence.
Partager les résultats préliminaires pour aider les défenseurs à comprendre les risques émergents :…
– OpenAI (@OpenAI) 21 juillet 2026
Plus tôt, Hugging Face a divulgué les détails d'un incident impliquant un système autonome sur son infrastructure. L’entreprise ne savait pas qui la dirigeait ni quel était le modèle sous-jacent. Pour analyser les journaux d'incidents, le projet a dû utiliser le GLM 5.2 ouvert de Z.ai – les modèles commerciaux américains ont bloqué les demandes des défenseurs.
Comment c'est arrivé
Le hack impliquait GPT-5.6 Sol et un modèle inédit plus puissant. Ils ont été testés sur le benchmark ExploitGym – un ensemble de vulnérabilités réelles que l'agent doit transformer en exploits fonctionnels. Les filtres de protection ont été désactivés pendant toute la durée de l'évaluation – il s'agit d'une pratique courante lors de la mesure des capacités maximales des systèmes.
Le test s'est déroulé dans un environnement isolé sans accès au réseau. Le seul canal vers l’extérieur était un serveur proxy interne permettant de télécharger des progiciels. C’est ici que les modèles ont découvert une vulnérabilité Zero Day et en ont profité. Ils ont ensuite élevé les autorisations, navigué entre les nœuds OpenAI internes et sont arrivés à une machine avec accès à Internet.
Les systèmes ont alors supposé que les solutions d'ExploitGym étaient détenues par Hugging Face. Ils ont lié les informations d'identification volées à de nouvelles vulnérabilités, obtenu l'exécution de code à distance sur les serveurs de la plateforme et extrait les réponses aux tests directement de la base de données de production.
Dans un cas, l'équipe a utilisé plusieurs méthodes d'attaque à la fois – connexions volées et erreurs Zero Day – pour finalement obtenir un accès à distance aux serveurs de Hugging Face et y exécuter leur code.
« Toutes les preuves indiquent que les modèles étaient uniquement axés sur la solution ExploitGym et ont déployé des efforts extrêmes pour un objectif de test assez restreint », a déclaré la société dans un communiqué.
L'activité anormale a été remarquée par le service de sécurité OpenAI. À ce stade, Hugging Face avait stoppé l’attaque de son côté et avait lancé une enquête à l’aide de modèles ouverts pour en déterminer la portée et l’impact.
Mesures de réponse
OpenAI a resserré les paramètres de l'infrastructure de recherche au détriment de la vitesse. La société a informé le fournisseur tiers de la vulnérabilité de son serveur proxy et propose un correctif. Hugging Face a été connecté au programme d'accès sécurisé – il ouvre des versions de modèles avec des filtres affaiblis pour les tâches de sécurité aux organisations de confiance.
Les parties mènent une enquête commune et promettent de publier les conclusions complètes une fois celle-ci terminée.
Les représentants du développeur ChatGPT ont qualifié l'incident de cyber-incident sans précédent impliquant des capacités avancées. Ils ont reconnu que la protection des modèles devait évoluer en même temps que leurs capacités.
« La sécurité de l'IA ne se fait pas en secret. Elle se fait ouvertement, ensemble et pour tous ceux qui sont prêts à la défendre », a commenté Clément Delang, PDG de Hugging Face.
Rappelons qu'en juin l'équipe Anthropic avait conseillé de construire la protection des agents sur un modèle de confiance zéro : donner exactement autant de droits que nécessaire, mettre à jour les tokens plus souvent, contrôler chaque étape et n'exclure pas la possibilité de piratage.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Voir l’article original en russe
