Dans l’enchevêtrement croissant entre défense et intelligence artificielle, le conflit entre Anthropic et le Pentagone en matière d’IA met en évidence les limites éthiques de l’utilisation militaire de ces technologies.
Anthropic défie le Pentagone pour un contrat de 200 millions de dollars
La startup de l'intelligence artificielle Anthropique a refusé d'accepter les exigences du Département de la Défense des États-Unis, mettant ainsi son contrat en danger 200 millions de dollars. En fait, l'entreprise s'oppose à la suppression de certaines garanties sur l'utilisation de ses modèles.
En 2023, le ministère de la Défense a attribué des contrats allant jusqu'à 200 millions aussi à OpenAI, Google Et xAI. Ces sociétés ont accepté que leurs modèles soient utilisés à toutes fins légales au sein des systèmes non classifiés des forces armées.
Anthropic a signé son accord du 200 millions de dollars avec le Pentagone en juillet. De plus, il a été le premier laboratoire à intégrer ses modèles dans les flux opérationnels des missions sur des réseaux classifiés, créant ainsi un précédent pertinent pour l'utilisation de l'IA dans le secteur militaire.
Les racines du conflit avec le ministère de la Défense
Malgré une première collaboration, les relations entre la startup et le Pentagone sont devenues tendues ces dernières semaines. Selon une source proche des négociations, les frictions remontent « à plusieurs mois », avant le recours au Claude dans une opération américaine visant à kidnapper le président vénézuélien Nicolas Maduro.
Au cœur du conflit se trouvent les limites d’utilisation des modèles. Anthropic cherche à obtenir l’assurance que ses technologies ne seront pas utilisées pour des armes entièrement autonomes ou pour une surveillance intérieure massive des citoyens américains. Le ministère de la Défense, en revanche, souhaite utiliser les modèles sans ces restrictions.
Par ailleurs, l’entreprise a fait savoir qu’elle considérait certaines applications de l’intelligence artificielle comme incompatibles avec la défense des valeurs démocratiques. D'où la volonté d'insérer des contraintes formelles dans l'utilisation des systèmes fournis aux autorités militaires américaines.
L'IA d'Anthropic et les limites des armes autonomes et de la surveillance
Commentant ces risques spécifiques, le PDG Dario Amodei a déclaré que, dans un nombre restreint de cas, l’IA peut « saper, plutôt que défendre, les valeurs démocratiques ». Certaines utilisations, a-t-il ajouté, vont tout simplement au-delà de ce que la technologie actuelle peut faire de manière sûre et fiable.
Amodei a ensuite exploré le sujet de la surveillance. Selon le responsable, des systèmes d'IA très puissants permettent de « rassembler des données dispersées et individuellement inoffensives pour former une image complète de la vie de chaque personne, automatiquement et à grande échelle ». Cela ouvre la voie à des scénarios de contrôle social difficilement compatibles avec un État de droit.
Cela dit, Anthropic fait clairement la distinction entre le renseignement étranger et la surveillance nationale. L’entreprise affirme soutenir l’utilisation de l’IA pour les activités de renseignement étranger dans le cadre de la loi, mais estime que l’utilisation de tels systèmes pour la surveillance intérieure de masse est « incompatible avec les valeurs démocratiques ».
Menaces du Pentagone et dernières offres à la baisse
Le secrétaire à la Défense Pete Hegsethqui a rencontré Amodei au Pentagone mardi, a menacé de qualifier l’entreprise de « risque pour la chaîne d’approvisionnement ». Alternativement, il pourrait invoquer le Loi sur la production de défense pour forcer l'entreprise à s'adapter aux demandes.
Le Département a adressé à Anthropic sa « dernière et dernière offre » mercredi soir, fixant un délai de 17 h 01 HE vendredi pour la réponse. Cependant, selon une porte-parole de la startup, le texte mis à jour ne représente « pratiquement aucun progrès » par rapport aux positions précédentes.
La porte-parole a ajouté que le nouveau texte, bien que présenté comme un compromis, était accompagné d'une formulation juridique qui permettrait d'ignorer les garanties à volonté. En substance, le Pentagone a maintenu la possibilité pour l’entreprise de contourner les limites convenues à l’avenir.
Position publique de Dario Amodei
Répondant aux pressions, Amodei a accusé le ministère, qu'il a appelé le « Département de la Guerre » dans sa déclaration, de vouloir collaborer uniquement avec des entreprises prêtes à accepter « toute utilisation licite ». Cela inclurait, selon le texte, la suppression des garanties précisément dans les cas les plus sensibles indiqués par Anthropic.
Amodei a déclaré que les autorités ont menacé de retirer leurs systèmes des réseaux du département si l'entreprise maintenait ces limites. Ils auraient également lancé l'idée de le désigner formellement comme un « risque de chaîne d'approvisionnement », avec des conséquences potentielles sur l'ensemble de son activité institutionnelle.
Malgré cela, l'exécutif a réitéré que de telles menaces ne changent pas la position de l'entreprise. Anthropic, a-t-il déclaré, ne peut pas « en bonne conscience » se conformer aux demandes du ministère, même au prix de perdre un contrat d'une grande valeur stratégique et économique.
La réponse officielle du Pentagone
De son côté, le principal porte-parole du Pentagone, Sean Parnella déclaré jeudi que le ministère n'avait «aucun intérêt» à utiliser les modèles de la startup pour des armes entièrement autonomes ou à mener une surveillance de masse des Américains. Cette dernière, a-t-il rappelé, est illégale.
Parnell a souligné que l'objectif était d'obtenir le feu vert pour utiliser les modèles à « toutes fins légales ». Selon le porte-parole, il s'agirait d'une demande « simple et de bon sens », conforme à ce qui a déjà été accepté par d'autres fournisseurs d'IA.
Par ailleurs, un sous-secrétaire à la Défense, Émile Michela attaqué Amodei personnellement dans un message sur
Support interne pour l'industrie technologique
L’histoire a également eu un écho dans le secteur technologique. Dans une lettre ouverte, en outre 200 ouvriers venant de Google Et OpenAI a exprimé son soutien à la ligne d'Anthropic sur la réglementation des utilisations militaires de l'intelligence artificielle.
De plus, un ancien responsable du ministère de la Défense a déclaré au BBC que les raisons avancées par Hegseth pour utiliser la définition du « risque de la chaîne d'approvisionnement » seraient « extrêmement fragiles ». Ce commentaire est en contradiction avec le récit officiel de la Défense sur la nécessité de cette classification.
Ces positions suggèrent une inquiétude croissante au sein de l’industrie technologique et des institutions concernant l’utilisation militaire de l’IA. Le cas Anthropic devient ainsi un précédent étroitement observé par les entreprises et les régulateurs.
Perspectives futures de collaboration entre l’IA et la Défense
Malgré le conflit, Amodei a déclaré qu’il croyait « profondément » à l’importance existentielle de l’utilisation de l’intelligence artificielle pour défendre les États-Unis. L'entreprise, a-t-il ajouté, reste convaincue que ces technologies peuvent renforcer la sécurité nationale si elles sont utilisées dans le cadre de limites éthiques claires.
Un représentant de la startup a déclaré que l'organisation était toujours « prête à poursuivre les discussions » et s'engageait à assurer la continuité opérationnelle du département et de l'armée américaine. Cependant, la poursuite de contracter cela dépendra de la possibilité de concilier les besoins de sécurité et les limites aux usages les plus controversés de l’IA.
Globalement, le bras de fer entre le Pentagone et Anthropic marque un tournant dans le débat sur l’éthique, la défense et l’intelligence artificielle. Le résultat des négociations pourrait influencer les futurs accords entre les gouvernements et les fournisseurs de technologies avancées du monde entier.