Rien qu'au cours des huit derniers mois, des personnes vivant dans des pays où l'accès à Claude devrait être restreint ou interdit ont eu accès aux modèles développés par Anthropic. Dans plusieurs cas, ils ont tenté de les utiliser pour développer des armes non conventionnelles ou pour créer des systèmes de surveillance. Dans d'autres cas, l'intérêt concernait le développement de armes biologiques. C'est le contenu inquiétant du dernier rapport dédié à la sécurité publié par l'entreprise Anthropique il y a quelques heures.
Offre
Le rapport intervient au cours d'une semaine déjà marquée par des inquiétudes et des annonces sur les risques posés par les modèles d'intelligence artificielle. L'annonce de la démission d'un chercheur d'Anthropic a fait le tour du mondequi accusait les principales entreprises qui développent des modèles d'intelligence artificielle de ne pas se soucier des risques de non-alignement des IA.
Il y a un peu de tout
Anthropique il semble avoir commencé à prendre le problème au sérieux sécurité liée à l’utilisation de ses modèles d’intelligence artificielle. Dans un long rapport publié jeudititré Identifier et lutter contre l’utilisation abusive de l’IA : septembre 2026chercheurs de l'entreprise fondée par Dario Amodei ont signalé plusieurs cas de tentatives d'utilisation – par des puissances hostiles aux États-Unis – de ses modèles à des fins illégitimes.
- Attaques de pirates informatiques améliorées par l'IA
Au cours des six derniers mois, les spécialistes de la sécurité de Anthropique ils auraient identifié et interrompu une série d'opérations que les assaillants auraient utilisées Claude.
Un agent lié à la Russie aurait eu recours aux outils proposés par Claude pour améliorer ses outils ou en créer de nouveaux de toutes pièces. Le même attaquant aurait eu recours aux modèles de Claude pour mener des attaques hameçonnage. Comme le rapporte Anthropiqueplus de 20 groupes distincts auraient été identifiés.
- Recherche sur les armes bactériologiques et virales
Le rapport indique également le blocage d'une tentative de recherche, en vue d'obtenir une bourse de recherche, sur l'application des études gain de fonction. Bien qu'il puisse s'agir d'une recherche légitime, indique Anthropic, l'activité a été interrompue en raison de l'affiliation de chercheur qui a envoyé les demandes à des entités suspectes.
Il existe également plusieurs indications inquiétantes contenues dans le long rapport publié par Anthropiquequi arrive précisément au cours d'une semaine déjà écoulée dominé de soucis de ce type, également dus à campagnes de presse déclenchée par la démission d’un chercheur autrefois lié à Anthropic.
Il y a ceux qui parlent de campagne…
Ensuite, il y a les sceptiques, qui évoquent la possibilité d’une campagne de presse organisée par les mêmes entreprises du monde de l’IA pour ralentir le développement (et dépenser moins) et demander l’intervention du gouvernement. Une intervention de gouvernement ce qui – soulignent les cyniques eux-mêmes – permettrait de protéger les entreprises déjà actives dans le secteur de la concurrence, notamment de celle constituée par les modèles poids ouvert.
Quoi qu’il en soit, ces campagnes ont déjà eu un énorme impact sur l’opinion publique, le discours autour des modèles de intelligence artificielle ce qu'il finira inévitablement par devenir politique. Aux États-Unis, outre une solide opposition aux nouveaux centres de donnéescela augmente également Bloomberg s'oppose à l'intelligence artificielle tout court. À quelques semaines des élections, les efforts des deux côtés de la barrière de l’IA devraient s’intensifier.