Anthropic informera le Conseil de stabilité financière (FSB) des graves vulnérabilités en matière de cybersécurité que son nouveau modèle « Claude Mythos » a découvertes dans les systèmes financiers mondiaux. Le FSB rassemble les principaux ministères des Finances, autorités de surveillance et banques centrales des pays du G20 et d’autres grands pays.
Le régulateur a demandé cette information après que le gouverneur de la Banque d'Angleterre, Andrew Bailey, qui préside le FSB, a averti que Mythos pourrait présenter des « risques de sécurité importants » pour un secteur bancaire qui continue de fonctionner avec une technologie obsolète. Les régulateurs veulent maintenant savoir auprès d’Anthropic ce que le modèle peut réaliser et où il détecte les vulnérabilités les plus dangereuses.
Claude Mythos est une version axée sur la cybersécurité de Claude AI d'Anthropic qui analyse les logiciels, les systèmes d'exploitation et l'infrastructure à la recherche de vulnérabilités. Anthropic affirme que Mythos Preview a déjà trouvé des milliers de bugs sérieux, y compris des problèmes dans tous les principaux systèmes d'exploitation et navigateurs Web.
Certaines des vulnérabilités découvertes datent de 27 ans et n'ont pas encore été remarquées par les développeurs ou les régulateurs. Les cyber-experts affirment que cela montre à quel point l'IA avancée peut désormais surpasser la plupart des humains pour trouver et même exploiter les failles du code – en particulier dans les systèmes complexes et plus anciens sur lesquels les banques s'appuient encore.
Pourquoi le mythe inquiète les régulateurs financiers
Les gouvernements ont commencé à s’intéresser de près à la publication de rapports selon lesquels Mythos pourrait aider à mener des cyberattaques en plusieurs étapes lors de tests contrôlés en laboratoire. L'AI Safety Institute du Royaume-Uni a découvert que Mythos Preview pouvait détecter et exploiter de manière autonome les vulnérabilités de petits réseaux mal protégés, surmontant ainsi des défis exigeants de capture du drapeau qui auraient pris des jours à des experts humains.
Dans le même temps, Anthropic enquête sur des allégations selon lesquelles un petit groupe aurait obtenu un accès non autorisé à Mythos par l'intermédiaire d'un tiers, bien qu'il n'y ait aucune preuve que les criminels aient le modèle entre leurs mains. La société a déjà limité l’accès à environ 40 organisations, y compris de grandes entreprises de technologie et de sécurité, dans le cadre d’un programme appelé « Projet Glasswing », plutôt que de diffuser largement Mythos.
Les ministres des Finances et les dirigeants des banques centrales souhaitent qu'Anthropic explique comment Mythos évalue la surface d'attaque actuelle des banques et des réseaux de paiement. Ils veulent également des directives claires sur la manière de sécuriser les systèmes centraux obsolètes avant que des modèles similaires ne se généralisent et ne tombent entre les mains de l’ennemi.
Les autorités américaines et indiennes ont déjà convoqué les patrons des banques à des réunions de crise et les ont exhortés à tester les systèmes critiques pour détecter les menaces de type Mythe. Avec le FSB désormais impliqué, les régulateurs du G20 considèrent Claude Mythos à la fois comme un puissant outil défensif et une arme offensive potentielle – et ils s’attendent à ce qu’Anthropic montre comment gérer ce risque sans ralentir d’importantes recherches sur la sécurité de l’IA.
EN SAVOIR PLUS: Le prix des hyperliquides bondit de 10 % après les débuts de HYPE ETF : l'objectif de 54 $ se rapproche
Voir l’article original en allemand
