Un groupe d’éminents experts en cybersécurité exhorte l’administration Trump à assouplir les restrictions strictes sur le modèle d’IA « Mythe » d’Anthropic. L'ancien chef de la sécurité de Facebook, Alex Stamos, est à la tête de l'initiative et prévient que les règles pourraient affaiblir Internet plutôt que de le rendre plus sûr.
Le gouvernement a récemment ordonné à Anthropic de bloquer l'accès à Mythos 5 et Fable 5 à tous les ressortissants étrangers. Anthropic a déclaré avoir mis les systèmes hors ligne « pour se conformer à une directive de l'administration Trump visant à empêcher leur utilisation par des ressortissants étrangers », qualifiant cela de « malentendu » qu'elle espère pouvoir résoudre rapidement.
Les autorités ont agi après des mois d'inquiétudes concernant les capacités extrêmes de piratage de Mythos. Lors des tests, le modèle aurait découvert de graves vulnérabilités de sécurité dans « tous les systèmes d’exploitation et navigateurs Web courants » et pourrait enchaîner ces vulnérabilités en cyberattaques de bout en bout. En raison de ces résultats, Anthropic a décidé de ne pas lancer le modèle publiquement et a plutôt mis le modèle à la disposition d'une quarantaine de grandes entreprises de technologie et de sécurité dans le cadre d'un programme limité appelé Project Glasswing.
Ce qu’affirment Alex Stamos et les experts en sécurité
Dans une lettre soulignée par Axios, Stamos et d'autres experts affirment que Mythos est l'un des rares outils permettant aux défenseurs de se déplacer plus rapidement que les attaquants. Ils disent qu’il peut analyser des bases de code massives, trouver des vulnérabilités du jour zéro et tester les systèmes critiques à une échelle que les humains ne peuvent pas atteindre. Stamos prévient : « Nous ne disposons que d'environ six mois avant que les modèles à poids ouvert ne rattrapent les modèles de base en matière de dépannage », de sorte que des outils similaires devraient bientôt arriver sur le marché.
Les signataires soutiennent que des restrictions strictes sur Mythos n’empêcheront pas les États hostiles ou les gangs criminels de développer une IA similaire. Au lieu de cela, ils affirment que les États-Unis devraient permettre à leurs agences et à leurs grandes entreprises d'utiliser en toute sécurité l'IA défensive la plus puissante disponible – avec un accès contrôlé et des tests de risque indépendants plutôt que des interdictions générales qui frappent également les équipes de sécurité.
La controverse sur Mythos survient alors que l’administration Trump redéfinit la manière dont Washington traite l’IA avancée. Après avoir abrogé une précédente réglementation sur l'IA, la Maison Blanche envisage maintenant un nouveau système qui donnerait aux responsables une courte fenêtre d'examen des modèles les plus performants avant leur sortie, avec des règles spéciales pour les cyber-outils qui protègent les infrastructures critiques tout en limitant les capacités offensives.
Anthropic a envoyé des ingénieurs seniors rencontrer des responsables de Trump pour affirmer que Mythe, s’il est manipulé avec soin, est plus utile pour la défense que pour l’attaque. Stamos et ses collègues affirment que chaque semaine de restrictions strictes affaiblit les défenseurs tandis que les attaquants travaillent avec diligence pour développer leurs propres moteurs de piratage d'IA.
EN SAVOIR PLUS: Prédiction de prix NEAR : les analystes ciblent 4 $ alors que les jetons AI montent en flèche
Voir l’article original en allemand
