Des dizaines de législateurs américains exhortent la Maison Blanche à agir plus rapidement contre les cybermenaces basées sur l'IA, avertissant que des outils comme Anthropic's Myth pourraient augmenter massivement le piratage si rien n'est fait pour les contrôler. Dans une nouvelle lettre bipartite, 32 membres du Congrès appellent l’administration à traiter les modèles d’IA avancés comme un problème grave de sécurité nationale et pas seulement comme un problème technologique.
Mythos est le dernier modèle d'IA haut de gamme d'Anthropic, conçu pour détecter les bogues logiciels à une vitesse et à une échelle que les humains ne peuvent pas atteindre. Les premiers tests auraient montré qu'il peut découvrir des milliers de vulnérabilités jusqu'alors inconnues, sonnant ainsi l'alarme parmi les banques, les entreprises technologiques et les agences gouvernementales. Anthropic a restreint l'accès via un programme appelé Project Glasswing et ne travaille qu'avec un petit groupe d'entreprises pendant que les défenses rattrapent leur retard.
Les modèles plus anciens d'Anthropic et d'OpenAI peuvent déjà reproduire de nombreuses capacités exceptionnelles de Mythos s'ils sont soigneusement coordonnés. Mythos se démarque car non seulement il trouve des bogues, mais il aide également à générer des exploits fonctionnels avec beaucoup moins d'effort humain. Cette possibilité inquiète les législateurs et les régulateurs, qui craignent une vague d’attaques automatisées contre les écoles, les hôpitaux, les banques et les systèmes gouvernementaux.
Ce que le Congrès attend de la Maison Blanche
Dans leur lettre, les 32 législateurs appellent la Maison Blanche à expliquer comment elle gérera les modèles d'IA « pionniers » susceptibles de pirater des logiciels critiques. Ils veulent des règles claires indiquant quand les entreprises doivent informer le gouvernement si un nouveau modèle présente de graves risques pour la sécurité. Ils font également pression pour une meilleure coordination entre les agences fédérales et les entreprises privées qui testent déjà l’IA dans des systèmes réels.
La lettre intervient alors que les responsables débattent à huis clos pour savoir si les engagements volontaires en matière de sécurité sont suffisants. Certains responsables politiques discutent également de licences ou d’un contrôle plus strict des modèles les plus performants. D’autres craignent qu’une réglementation trop stricte puisse entraver de précieuses recherches sur la sécurité. Ce désaccord conduit à un débat précoce sur la mesure dans laquelle Washington devrait aller dans la réglementation des capacités de l’IA en matière de cybersécurité.
La Maison Blanche a précédemment réuni des experts en informatique et en cybersécurité pour parler de Mythos et d'outils similaires, en leur demandant quelles bases de code ils analysent et comment ils priorisent les mises à jour. Anthropic et OpenAI, quant à eux, affirment qu'ils fournissent une alerte précoce en cas de cybermenaces alimentées par l'IA et mettent progressivement en place des systèmes pour donner aux défenseurs le temps de s'adapter. Mais les chercheurs en sécurité affirment que les attaquants, en particulier ceux soutenus par les gouvernements, savent déjà quoi faire des vulnérabilités lorsqu’elles sont découvertes.
EN SAVOIR PLUS: L'action à la hausse stagne avant l'annonce des résultats : quelle est la prochaine étape pour BLSH ?