Le PDG d'Anthropic, Dario Amodei, a publiquement rejeté jeudi la demande du Pentagone. Le ministère de la Défense souhaite une utilisation militaire sans restriction de la technologie d’IA de l’entreprise. La date limite, dans quelques heures, pourrait voir la startup de 380 milliards de dollars expulsée de la chaîne d'approvisionnement de l'armée américaine.
C’est la première fois qu’une grande entreprise d’IA défie publiquement une menace du gouvernement américain de prendre le contrôle de sa technologie.
L'impasse
Dans un article de blog publié sur le site Internet d'Anthropic, Amodei a qualifié les menaces du Pentagone de « intrinsèquement contradictoires », notant que l'une désigne Anthropic comme un risque pour la sécurité tandis que l'autre traite Claude comme essentiel à la sécurité nationale.
« Quoi qu’il en soit, ces menaces ne changent pas notre position : nous ne pouvons pas, en toute bonne conscience, accéder à leur demande », a écrit Amodei.
Le différend porte sur deux conditions qu'Anthropic a posées à l'utilisation militaire de Claude. La société interdit le ciblage autonome des combattants ennemis et interdit la surveillance de masse des citoyens américains. Le Pentagone considère qu’il s’agit de limitations inacceptables aux opérations militaires légales.
Anthropic a déclaré que « l'offre finale » du Pentagone, reçue mercredi dans la nuit, ne répondait pas à ses principales préoccupations. « Un nouveau langage présenté comme un compromis a été associé à un jargon juridique qui permettrait d'ignorer ces garanties à volonté », a déclaré un porte-parole d'Anthropic dans un communiqué, tel que rapporté par The Hill.
Le porte-parole du ministère de la Défense, Sean Parnell, a lancé jeudi un ultimatum public. Il a donné à Anthropic jusqu'à 17 h 01 HE vendredi pour accorder un accès illimité à Claude Gov – sous peine de résiliation du partenariat et de désignation comme risque de chaîne d'approvisionnement.
« Nous ne laisserons AUCUNE entreprise dicter les conditions concernant la façon dont nous prenons des décisions opérationnelles », a écrit Parnell sur X.
Chronologie de l’escalade
Mardi, Amodei a rencontré directement le secrétaire à la Défense Pete Hegseth, au cours duquel les responsables du Pentagone ont souligné trois conséquences en cas de non-respect. Premièrement, le retrait des systèmes militaires. Deuxièmement, la désignation d’un risque dans la chaîne d’approvisionnement qui empêcherait d’autres sous-traitants de la défense d’utiliser les produits Anthropic. Troisièmement, l’invocation de la loi sur la production de défense de 1950 pour contraindre légalement l’entreprise à céder sa technologie.
Amodei a soutenu dans le billet de blog que le refus était également fondé sur la réalité technique. « Les systèmes Frontier AI ne sont tout simplement pas assez fiables pour alimenter des armes entièrement autonomes », a-t-il écrit, ajoutant que sans une surveillance appropriée, de tels systèmes « ne peuvent pas être fiables pour exercer le jugement critique dont nos troupes professionnelles hautement entraînées font preuve chaque jour ».
Le sénateur républicain Thom Tillis a critiqué la manière dont le Pentagone a géré le conflit. « Pourquoi diable avons-nous cette discussion en public ? Ce n'est pas la façon dont vous traitez avec un fournisseur stratégique », a déclaré Tillis aux journalistes.
Quel est l'enjeu
Pour Anthropic, l’exposition immédiate est un contrat militaire de 200 millions de dollars. Mais la désignation de risque lié à la chaîne d’approvisionnement entraîne des implications bien plus vastes. Cela obligerait chaque entrepreneur de la défense à vérifier qu'il n'utilise pas de produits Anthropic dans ses opérations.
Le paysage concurrentiel évolue rapidement. Selon Axios, xAI d'Elon Musk a signé un accord pour utiliser Grok dans des systèmes classifiés, acceptant la norme « à toutes fins légales » pour les travaux classifiés. OpenAI et Google accélèrent les négociations pour entrer dans l'espace classifié. Anthropic, une fois la seule entreprise d’IA autorisée à utiliser du matériel classifié, risque de perdre entièrement cet avantage de premier arrivé.
Pourquoi la crypto devrait faire attention
La volonté du Pentagone d’invoquer la loi sur la production de défense contre une entreprise technologique crée un précédent qui s’étend au-delà de l’IA. Si le gouvernement peut légalement contraindre une entreprise d’IA à supprimer les restrictions de sécurité pour des raisons de sécurité nationale, le même cadre pourrait, en théorie, être appliqué pour obliger les sociétés de cryptographie à modifier les fonctionnalités de confidentialité ou à affaiblir les garanties des transactions.
Cette impasse renforce également les arguments en faveur du développement décentralisé de l’IA. Un fournisseur d'IA centralisé peut être contraint – ou légalement contraint – de supprimer les garde-fous à la demande d'un gouvernement. Cela valide la thèse selon laquelle les alternatives décentralisées offrent une infrastructure plus résiliente face à la coercition de l’État.
La croissance rapide d'Anthropic a déjà suscité des inquiétudes pour les marchés de la cryptographie. La valorisation de 380 milliards de dollars de l'entreprise et la perturbation des revenus des logiciels traditionnels induite par l'IA exercent une pression sur les flux de crédit privé qui sont étroitement liés au Bitcoin.
Anthropic a également un lien historique avec la cryptographie : la masse de la faillite de FTX détenait au début une participation importante dans la société, qu'elle a ensuite vendue pour aider à financer les remboursements des créanciers.
La date limite de vendredi sera dépassée, mais la vraie question commence après : si le Pentagone va jusqu'au bout, et ce que cela signifie pour chaque entreprise technologique qui établit une ligne entre les contrats gouvernementaux et l'intégrité des produits.