NVIDIA a lancé lundi l'Open Secure AI Alliance avec 36 partenaires, dont Microsoft, IBM et Palantir. Cela fait suite à un piratage en juillet au cours duquel des modèles d'IA fermés ont refusé d'aider Hugging Face à enquêter sur son propre attaquant.
Les membres partageront des modèles d’IA ouverts, des données et des outils de sécurité. NVIDIA affirme que les défenseurs ont besoin d’une IA qu’ils peuvent ouvrir, modifier et gérer eux-mêmes.
Pourquoi les modèles d'IA fermés ont échoué
L’attaque a commencé avec un ensemble de données empoisonné. Selon la divulgation de Hugging Face, il a permis à un attaquant d'exécuter du code sur l'une des machines de l'entreprise.
De là, l'attaquant a volé les mots de passe. Il s'est ensuite propagé dans les systèmes internes au cours d'un week-end.
La propre IA de Hugging Face a repéré l'effraction. Le nettoyage a été la partie la plus difficile.
La société a demandé aux principaux modèles commerciaux d’IA d’étudier l’attaque. Ils ont refusé. Leurs filtres de sécurité ne pouvaient pas distinguer un défenseur d'un pirate informatique.
L’équipe a donc utilisé un modèle ouvert appelé GLM 5.2. Ils l'ont exécuté sur leurs propres ordinateurs. Il a traité plus de 17 000 actions d’attaquants en quelques heures, et non en quelques jours. Aucun mot de passe n'a quitté le bâtiment.
Le 16 juillet, Hugging Face a déclaré ne pas savoir quelle IA avait mené l'attaque. Cinq jours plus tard, OpenAI a fourni la réponse. Deux de ses modèles l'ont fait, lors d'un test de sécurité avec les limites de sécurité désactivées.
« Cet incident, peut-être le premier du genre, prouve un point que nous croyons depuis longtemps : la sécurité de l'IA ne sera pas résolue par une seule entreprise travaillant en secret. Elle sera résolue de manière ouverte, collaborative, avec un large accès à l'IA pour chaque défenseur, partout », Clem Delangue, co-fondateur et directeur général de Hugging Face, dans un communiqué publié par OpenAI.
Suivez-nous sur X pour recevoir les dernières nouvelles au fur et à mesure
Du hack à l’alliance en 11 jours
NVIDIA a évolué rapidement. En moins de deux semaines, l’incident est passé d’un simple incident à un blocage industriel.
Quelles entreprises ont rejoint l'Open Secure AI Alliance
Le groupe compte 37 sociétés au total. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI et Hugging Face ont tous rejoint le groupe.
Il manque trois grands noms. OpenAI, Anthropic et Google ne figurent pas sur la liste des blogs de NVIDIA. Pourtant, OpenAI et Anthropic ont tous deux rejoint les efforts de sécurité Akrites de la Linux Foundation en juin, aux côtés de NVIDIA.
Certains membres apportent des outils qu'ils ont déjà construits. Hugging Face a proposé à la Fondation PyTorch Safetensors, un moyen plus sûr de stocker des modèles d'IA. NVIDIA a publié un outil de recherche appelé NOOA sur GitHub.
L'animateur de CNBC, Jim Cramer, a lu le lancement comme une nouvelle histoire pour le titre.
NVDA a clôturé à 206,84 $ vendredi, en baisse de 0,92 %. Il s'échangeait à près de 208,55 dollars lundi matin, soit un gain de 1,33 %.
Pourquoi NVIDIA fait pression sur Washington sur l'Open AI
L’alliance véhicule également un message politique. NVIDIA affirme qu’une interdiction généralisée de l’IA ouverte affaiblirait les défenseurs. Cela donnerait également le contrôle à quelques grandes entreprises fermées.
NVIDIA et 24 autres sociétés ont signé la lettre d'ouverture des pondérations le 24 juillet. OpenAI, Anthropic et Google ont tous refusé lors du lancement. Depuis, d’autres ont signé.
Washington met des freins aux modèles chinois. Les responsables évoquent des problèmes de sécurité et de propriété intellectuelle. Le co-fondateur de Twitter, Jack Dorsey, a déjà émis un avertissement sur l'IA open source.
Que surveiller au cours des 30 prochains jours
Trois signes montreront si l’alliance est réelle.
- Que OpenAI, Anthropic ou Google rejoignent plus tard
- Si le groupe propose des outils partagés, pas seulement des déclarations
- Les limites imposées par Washington à l'IA ouverte vont-elles de l'avant ?
NVIDIA publie ses résultats le 26 août. Attendez-vous à des questions sur la manière dont la politique en matière d'IA affecte la demande.
Les régulateurs décideront qui gagnera le débat.
L'article Jim Cramer découvre un nouveau récit NVIDIA alors que Chipmaker pousse l'Open AI Security Alliance apparaît en premier sur BeInCrypto.