Anthropic a assoupli ses principales politiques de sécurité, invoquant la nécessité de rester compétitif. Dans le même temps, le Pentagone fait pression sur l’entreprise, exigeant l’autorisation d’utiliser l’IA pour espionner les citoyens américains et créer des armes autonomes.
L’entreprise s’est auparavant positionnée comme l’un des laboratoires d’IA les plus axés sur la sécurité du marché. Cependant, la direction a désormais abandonné un engagement clé dans ce domaine.
En 2023, l'entreprise a introduit la Responsible Scaling Policy (RSP), un ensemble de règles volontaires visant à réduire les risques catastrophiques lorsque l'on travaille avec des réseaux de neurones. Initialement, le document supposait que le développeur suspendrait le développement de l'intelligence artificielle s'il la reconnaissait comme potentiellement dangereuse.
« Nous avons décidé que nous n'aiderions personne si nous arrêtions simplement de former des modèles d'IA. Compte tenu des progrès rapides de l'industrie, il nous a semblé imprudent de prendre des engagements unilatéraux pendant que nos concurrents avancent », a déclaré Jared Kaplan, scientifique en chef d'Anthropic.
La troisième version du RSP précise qu'Anthropic continuera à améliorer l'IA s'il estime qu'elle n'a pas d'avantage significatif sur ses concurrents.
« L'environnement politique a évolué vers la priorité accordée à la compétitivité et à la croissance économique, et les discussions sur la sécurité de l'IA n'ont pas reçu de soutien significatif au niveau fédéral », a déclaré la startup dans un article de blog.
La nouvelle version de la politique inclut une plus grande transparence, notamment la publication détaillée des résultats des tests sur modèles. L'entreprise promet de suivre le rythme de ses concurrents en termes de contrôle du système. Anthropic n’est prêt à ralentir son développement que s’il devient clairement le leader de la course et perçoit simultanément un risque important de désastre.
Lorsqu’Anthropic a introduit le RSP en 2023, elle espérait que ses concurrents emboîteraient le pas. Mais personne n’a fait une promesse aussi claire d’arrêter le développement de l’IA.
Anthropique sous la pression du Pentagone
Des désaccords sont apparus entre Anthropic et le ministère américain de la Défense au sujet des projets militaires d'utiliser l'IA pour espionner les citoyens du pays et développer des armes autonomes. La startup s'oppose à cette approche, mais les représentants du Pentagone ont annoncé leur intention d'utiliser LLM « pour tous les scénarios juridiques » sans restrictions et permettait la possibilité de résiliation du contrat.
Le PDG de la startup, Dario Amodei, a rencontré le ministre de la Défense Pete Hegseth pour discuter de la situation. Le ministère a lancé un ultimatum : la startup doit accepter les conditions gouvernementales d'ici le 27 février.
Si elle refuse, les autorités pourraient considérer l’entreprise comme une menace pour les chaînes d’approvisionnement. Cela mettrait en péril les activités d'Anthropic avec d'autres sous-traitants du gouvernement américain. Une option alternative consiste à appliquer la loi sur la production de défense, qui permettrait au Pentagone d’utiliser de force les technologies de démarrage.
« Ce scénario est sans précédent et conduira presque certainement à une vague de litiges si l'administration prend des mesures défavorables à l'encontre d'Anthropic », a déclaré Franklin Turner, avocat spécialisé en contrats gouvernementaux chez McCarter & English.
Dans une déclaration en réponse, les représentants de la société AI ont souligné que les parties « continuent de dialoguer de bonne foi ».
L'anthropique est inébranlable
Reuters a appris qu'Anthropic n'avait pas l'intention d'assouplir ses restrictions sur l'utilisation de la technologie à des fins militaires.
La position de la startup a été soutenue par le co-fondateur d'Ethereum, Vitalik Buterin.
Cela augmentera considérablement mon opinion sur @Anthropique s'ils ne reculent pas, et en subissent honorablement les conséquences.
(Pour ceux qui ne le savent pas, jusqu’à présent, ils ont maintenu les deux lignes rouges : « pas d’armes entièrement autonomes » et « pas de surveillance de masse des Américains ».…
– vitalik.eth (@VitalikButerin) 24 février 2026
« S'ils ne reculent pas et n'acceptent pas les conséquences avec honneur, cela améliorera grandement mon opinion sur Anthropic », a-t-il déclaré.
En février, il s'est avéré que le modèle Claude AI avait été utilisé dans l'opération visant à capturer le président vénézuélien Nicolas Maduro. Selon l'agence, lors d'une réunion avec Hegseth, le PDG d'Anthropic n'a pas exprimé d'inquiétude quant à l'utilisation des produits de l'entreprise dans cette initiative.
Une menace aussi sérieuse de la part du Pentagone indique une réticence à abandonner Claude dans le secteur de la défense, écrit The Economist. Les journalistes notent que les technologies de la startup pourraient s'avérer indispensables à des fins militaires.
Rappelons que SpaceX et sa filiale IA xAI participent à un appel d'offres secret du Pentagone pour développer des essaims autonomes de drones à commande vocale.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
