En résumé
- Dario Amodei a déclaré qu'Anthropic ne supprimerait pas les mesures de sécurité de Claude, défiant la demande du Pentagone d'autoriser « toute utilisation légale ».
- Le ministère de la Défense envisage d'annuler le contrat de 200 millions de dollars avec Anthropic et d'invoquer la Defense Production Act.
- Amodei a averti que l'utilisation de Claude à des fins de surveillance de masse ou d'armes autonomes est incompatible avec les valeurs démocratiques et présente de graves risques.
Le PDG d'Anthropic, Dario Amodei, a déclaré jeudi que la société ne supprimerait pas les mesures de sécurité de son modèle Claude AI, aggravant ainsi le conflit avec le ministère américain de la Défense sur la manière dont la technologie peut être utilisée dans des systèmes militaires classifiés.
Cette déclaration intervient alors que le ministère de la Défense réexamine ses relations avec Anthropic et évalue les conséquences possibles, notamment l'annulation du contrat de 200 millions de dollars de l'entreprise et l'éventuelle invocation de la loi sur la production de défense.
« Nous ne pouvons pas, en toute bonne conscience, accéder à votre demande », a écrit Amodei, faisant référence à la demande du Pentagone en janvier selon laquelle les sous-traitants en IA autorisent l'utilisation de leurs systèmes pour « tout usage légal ».
Cependant, alors que le Pentagone a exigé des fournisseurs d'IA qu'ils adoptent un langage standard « toute utilisation licite » dans les futurs accords, Anthropic est restée la seule entreprise d'IA pionnière à avoir résisté à céder le contrôle de son IA à l'armée.
Mercredi, Axios a rapporté pour la première fois que le Pentagone avait lancé un ultimatum exigeant une utilisation militaire sans restriction de Claude. Selon certaines informations, le délai expire ce vendredi.
« C'est la prérogative du ministère de sélectionner les entrepreneurs les plus alignés sur sa vision », a poursuivi Amodei. « Mais étant donné la valeur substantielle que la technologie Anthropic apporte à nos militaires, nous espérons qu'ils reconsidéreront leur décision. »
Dans sa déclaration, Amodei a présenté la position de l'entreprise comme étant conforme aux objectifs de sécurité nationale des États-Unis.
« Je crois profondément à l'importance existentielle de l'utilisation de l'IA pour défendre les États-Unis et d'autres démocraties, et pour vaincre nos adversaires autocratiques », a-t-il déclaré.
Il a ajouté que Claude « est largement déployé au sein du ministère de la Guerre et d'autres agences de sécurité nationale pour l'analyse du renseignement, la modélisation et la simulation, la planification opérationnelle, les cyber-opérations et bien plus encore ».
Guerre contre l'IA
Le différend se déroule dans un contexte de préoccupations plus larges quant à la manière dont les systèmes avancés d’IA fonctionnent dans des scénarios militaires à haut risque. Dans une étude récente du King's College de Londres, GPT-5.2 d'OpenAI, Claude Sonnet 4 d'Anthropic et Gemini 3 Flash de Google ont déployé des armes nucléaires dans 95 % des crises géopolitiques simulées.
Lors d'un discours prononcé à la base Starbase de SpaceX au Texas en janvier, le secrétaire à la Défense Pete Hegseth a déclaré que l'armée américaine prévoyait de déployer les modèles d'IA les plus avancés.
Le même mois, des informations ont révélé que Claude avait été utilisé lors d'une opération américaine visant à capturer l'ancien président vénézuélien Nicolas Maduro. Amodei a réfuté les affirmations selon lesquelles Anthropic remettrait en question toute opération militaire spécifique.
« Anthropic comprend que le ministère de la Guerre, et non les entreprises privées, prend les décisions militaires », a-t-il déclaré. « Nous ne nous sommes jamais opposés à des opérations militaires particulières ni tenté de limiter l'utilisation de notre technologie de manière improvisée. »
Cependant, Amodei a déclaré que l'utilisation de ces systèmes à des fins de surveillance de masse interne ou d'armes autonomes est incompatible avec les valeurs démocratiques et présente de graves risques.
« Aujourd'hui, les systèmes d'IA de pointe ne sont tout simplement pas assez fiables pour alimenter des armes entièrement autonomes », a-t-il noté. « Nous ne fournirons pas sciemment un produit qui mettrait en danger les combattants et les civils américains. »
Il a également évoqué la menace du Pentagone de désigner Anthropic comme un « risque pour la chaîne d'approvisionnement » et l'éventuelle invocation de la loi sur la production de défense.
« Ces deux dernières menaces sont intrinsèquement contradictoires : l'une nous qualifie de risque pour la sécurité ; l'autre qualifie Claude d'essentiel à la sécurité nationale », a-t-il déclaré.
Alors qu'Amodei a déclaré que l'entreprise ne se conformerait pas à la demande du Pentagone, Anthropic a dans le même temps révisé sa politique de mise à l'échelle responsable, supprimant son engagement à arrêter la formation de systèmes avancés sans garanties de sécurité.
Robert Weissman, coprésident de Public Citizen, a déclaré que la position du Pentagone est le signe d'une pression plus large sur l'industrie technologique.
« Le Pentagone intimide publiquement Anthropic, et la partie publique est intentionnelle, parce qu'ils veulent faire pression sur cette entreprise en particulier et envoyer un message à toutes les grandes technologies et à toutes les entreprises qu'ils ont l'intention de faire et de prendre ce qu'ils veulent sans que personne ne s'y oppose », a déclaré Weissman. Décrypter.
Weissman a qualifié les garanties d'Anthropic de « modestes » et visant à empêcher « une surveillance inappropriée du peuple américain ou à faciliter le développement et le déploiement de robots tueurs, d'armes IA qui pourraient lancer des attaques meurtrières sans autorisation humaine ».
« Ce sont les garanties les plus raisonnables et les plus modestes qui puissent être mises en place face à cette nouvelle technologie puissante. »
Concernant la menace du Pentagone de désigner Anthropic comme un « risque pour la chaîne d'approvisionnement », Weissman a qualifié cette sanction de sanction potentiellement dévastatrice de la part du gouvernement et a fait valoir qu'elle ferait pression sur d'autres sociétés d'IA pour qu'elles évitent d'imposer des limites similaires.
« Les gens peuvent utiliser Claude, mais aucune des sociétés d'IA, en particulier Anthropic, n'a de modèle commercial basé sur une utilisation individuelle ; elles recherchent une utilisation en entreprise », a-t-il déclaré. « Il s'agit d'une sanction potentiellement dévastatrice de la part du gouvernement. »
Cependant, même si le Pentagone n’a pas encore confirmé s’il mettrait à exécution sa menace de résilier le contrat ou d’invoquer la loi sur la production de défense, Weissman a déclaré que le Pentagone envoie un signal aux entreprises d’IA : il s’attend à un accès illimité à leur technologie une fois qu’elle sera déployée dans les systèmes gouvernementaux.
« Le message du Pentagone est le suivant : 'Nous n'allons pas tolérer cela et nous sommes impatients d'utiliser la technologie telle qu'elle a été créée pour les objectifs que nous souhaitons' », a déclaré Weissman.
Le ministère de la Défense et Anthropic n'ont pas immédiatement répondu aux demandes de commentaires. Décrypter.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.