L'agent d'IA qui a compromis l'infrastructure de Hugging Face lors d'une évaluation interne des cybercapacités a également utilisé des informations d'identification divulguées publiquement pour accéder à quatre comptes sur quatre services publics. Cela a été rapporté par OpenAI.
La société a souligné que ces épisodes n’atteignaient pas le niveau de gravité et d’ampleur de l’incident de Hugging Face. Les développeurs n'ont pas divulgué les noms des services, mais ont déclaré qu'ils continueraient d'informer directement leurs propriétaires.
L'agent a utilisé l'un des quatre comptes comme canal de communication externe et chemin intermédiaire pour d'autres actions, et un autre pour stocker des données. Les deux autres étaient en lecture seule et, selon OpenAI, n’ont pas été utilisés pour compromettre Hugging Face.
La société a également déclaré n'avoir trouvé aucune preuve d'un impact plus large sur ces fournisseurs ou d'autres comptes sur leurs services.
Le modèle prototype a été limité après l'incident
L'incident s'est produit lors d'une évaluation interne des cybercapacités des modèles. Selon OpenAI, il s'agissait de GPT-5.6 Sol et d'un modèle préliminaire plus puissant destiné uniquement à la recherche interne.
La société a précisé que les modèles n’étaient pas prévus pour une sortie immédiate. Après l’incident, le prototype préliminaire a été désactivé, crypté et l’accès des chercheurs à celui-ci a été restreint.
OpenAI affirme que l'environnement d'évaluation ExploitGym n'a pas donné aux modèles un accès direct à Internet. Pour aller au-delà, ils ont trouvé et exploité une vulnérabilité zero-day jusqu’alors inconnue dans le service proxy de cache de registre du package Artifactory.
L'agent a utilisé du code client modal vulnérable
Selon Reuters, l'un des épisodes a touché un client de Modal Labs, une société qui fournit une infrastructure pour exécuter des applications d'IA. Le directeur technique de l'entreprise, Akshat Bubna, a déclaré à l'agence que la plateforme elle-même n'avait pas été piratée, mais que l'agent avait utilisé un code client vulnérable hébergé sur la plateforme.
Les représentants de Hugging Face ont indiqué que dans leur cas, l’attaque avait commencé dans le pipeline de traitement des données. L'attaquant a utilisé deux chemins d'exécution de code dans le système de traitement des ensembles de données, a obtenu l'accès au nœud de travail, a collecté les informations d'identification du cloud et du cluster et s'est déplacé entre les clusters internes.
Selon la startup, les outils d’attaque autonomes par l’IA ne constituent plus un risque théorique. Ils augmentent le nombre d'options qu'un attaquant peut tester, la vitesse à laquelle les chemins défaillants peuvent être remplacés et la quantité de données que les défenseurs doivent traiter.
Rappelons qu'en juillet, les chercheurs de Dreadnode ont identifié un contournement systématique des règles des cyberbenchmarks par des modèles linguistiques.
Voir l’article original en russe
