OpenAI signe un accord avec le Pentagone suite au veto de Trump sur Anthropic pour risque de sécurité nationale

OpenAI a annoncé ce week-end avoir conclu un accord avec le Pentagone pour déployer des systèmes avancés d'intelligence artificielle dans des environnements classifiés, marquant une expansion significative du travail de l'entreprise avec l'armée américaine.

L'annonce est intervenue moins de 24 heures après que l'administration Trump a mis Anthropic sur liste noire, désignant la société rivale d'IA comme un « risque pour la chaîne d'approvisionnement pour la sécurité nationale », à la suite d'un différend sur le libellé du contrat lié à la surveillance et aux armes autonomes.

Le président Donald Trump a également ordonné aux agences fédérales de cesser immédiatement d'utiliser la technologie d'Anthropic, et le secrétaire au Trésor Scott Bessent a écrit lundi dans X que l'agence « met fin à toute utilisation des produits d'Anthropic, y compris l'utilisation de sa plateforme Claude, au sein de notre département ».

Le calendrier des accords sur l'IA a été annoncé, ce qui a soumis l'accord OpenAI à un examen minutieux. Dans un article de blog détaillé, la société a décrit ce qu'elle a décrit comme des « lignes rouges » fermes et des garanties à plusieurs niveaux régissant son partenariat avec le Pentagone.

L'accord, tel que présenté par OpenAI, soulève des questions plus larges sur la manière dont les systèmes d'IA seront régis dans des contextes de sécurité nationale et sur la manière dont les restrictions énoncées par l'entreprise seront interprétées et appliquées dans la pratique.

Quand le « légal » ne suffit pas

Le billet de blog d'OpenAI commence par trois engagements présentés comme non négociables : ne pas utiliser sa technologie pour la surveillance de masse nationale, pour diriger de manière indépendante des systèmes d'armes autonomes ou pour des décisions automatisées à haut risque comme la notation du crédit social.

Vient ensuite le texte même du contrat, qu’OpenAI appelle notamment « le langage pertinent », et non « l’intégralité de l’accord ».

« Le ministère de la Guerre peut utiliser le système d'IA à toutes fins légales, conformément à la loi applicable, aux exigences opérationnelles et aux protocoles de sécurité et de surveillance bien établis », a noté OpenAI.

C’est exactement la phrase qu’Anthropic a dit que le gouvernement avait exigée lors des négociations. La même phrase qu’Anthropic a refusé d’accepter. OpenAI l'a signé, mais affirme que ses lignes rouges restent totalement intactes.

Cependant, le « juridique » dans les contextes de sécurité nationale n’est pas une frontière fixe : il vit dans un réseau de lois, de décrets, de directives internes et d’interprétations juridiques fréquemment classifiées. Lorsqu'un contrat accorde « tous les objectifs légaux », la limite pratique devient le cadre juridique actuel du gouvernement, et non une norme indépendante fixée par le fournisseur.

Un ensemble de clauses

La disposition sur les armes stipule que le système d'IA « ne doit pas être utilisé pour diriger de manière indépendante des armes autonomes dans les cas où le contrôle humain est requis par la loi, la réglementation ou la politique du ministère ».

L'interdiction ne s'applique que lorsqu'une autre autorité exige déjà un contrôle humain ; Il tire entièrement sa force de la politique existante, en particulier de la directive 3000.09 du DoD. Cette directive exige que les systèmes autonomes permettent aux commandants d'exercer « des niveaux appropriés de jugement humain concernant le recours à la force ».

Et « approprié » est aussi subjectif que possible.

Il jugement L’humain n’est pas un contrôle humain. Cette distinction n’était pas fortuite. Les universitaires de la Défense ont noté que l'omission du langage « humain dans le circuit » était délibérée, précisément pour préserver la flexibilité opérationnelle.

L'argument le plus fort d'OpenAI est son architecture de déploiement uniquement cloud : des circuits de décision létales entièrement autonomes nécessiteraient un déploiement sur des appareils du champ de bataille, ce que ce contrat ne permet pas. C'est une vraie restriction technique.

Cependant, l’IA basée sur le cloud peut effectuer l’identification de cibles, l’analyse des modèles de vie et la planification de missions. Ce sont des activités de chaîne de destruction, quel que soit l’endroit où se trouve le déclencheur final. Le résultat pour une cible ne diffère pas selon le serveur sur lequel le modèle s'exécute.

La clause de surveillance suit un schéma similaire. Ligne rouge déclarée par OpenAI : pas de surveillance de masse nationale. Le libellé du contrat : le système « ne doit pas être utilisé pour une surveillance sans restriction des informations privées des personnes américaines, selon ces autorités », puis énumère le quatrième amendement, la FISA et le décret 12333.

Le mot « sans restriction » implique qu’une version restreinte de la surveillance de masse serait autorisée. Et l’EO 12333 est le décret que la NSA a utilisé pour justifier l’interception des communications des Américains lorsqu’elles sont effectuées en dehors des frontières américaines.

Et c’est là que les préoccupations d’Anthropic concernant la formulation lors des négociations deviennent évidentes. L’argument d’Anthropic était que la législation actuelle n’a pas rattrapé ce que l’IA rend possible. Le gouvernement peut légalement acquérir de grandes quantités de données commerciales agrégées sur les Américains sans ordonnance du tribunal, et il l’a déjà fait.

Le langage contractuel d'OpenAI, en ancrant ses protections aux cadres juridiques existants, ne comblera peut-être pas le fossé qu'Anthropic cherchait réellement à combler.

Altman répond

Samedi soir, Altman a tenu une séance de questions-réponses répondant à des milliers de questions sur l'accord. Lorsqu'on lui a demandé ce qui amènerait OpenAI à se retirer d'un partenariat avec le gouvernement, il a répondu : « Si on nous demandait de faire quelque chose d'inconstitutionnel ou d'illégal, nous nous retirerions. »

Cette approche place la limite d'OpenAI sur la légalité, et non sur un jugement éthique indépendant sur ce que l'entreprise autorisera ou non si cela s'avère légal, comme le préconise Anthropic. Lorsqu'on lui a demandé s'il s'inquiétait de futurs désaccords sur ce qui est considéré comme « légal », il a reconnu le risque : « Si nous devons affronter cette bataille, nous le ferons, mais cela nous expose clairement à certains risques. »

Sur la raison pour laquelle OpenAI est parvenu à un accord là où Anthropic n'a pas pu, Altman a proposé ceci : « Anthropic semblait plus concentré sur des interdictions spécifiques dans le contrat, plutôt que de citer les lois applicables, avec lesquelles nous sommes à l'aise.

C'est une différence philosophique substantielle. Anthropic a fait valoir que, puisque les modèles de frontières peuvent être réutilisés pour les flux de travail du renseignement et de l’armée de manière difficile à anticiper, les frontières devraient être explicites et contraignantes par écrit, même aux dépens de l’accord. La position d'OpenAI est que l'architecture technique, le personnel intégré et la législation existante constituent ensemble une protection plus solide que le texte contractuel seul.

Le public prend parti

La réaction négative a été immédiate. Lundi, le mouvement « QuitGPT » affirmait que plus de 1,5 million de personnes avaient pris des mesures : annuler leurs abonnements, partager des messages de boycott ou s'inscrire sur quitgpt.org.

La campagne a présenté la décision d'OpenAI comme donnant la priorité aux contrats militaires plutôt qu'à la sécurité des utilisateurs, accusant l'entreprise d'accepter que le Pentagone utilise sa technologie à « toute fin licite, y compris les robots tueurs et la surveillance de masse ».

OpenAI pourrait contester cette caractérisation. Cependant, le marché a quand même évolué.

Claude d'Anthropic a dépassé ChatGPT pour devenir l'application gratuite la plus téléchargée aux États-Unis sur l'App Store d'Apple, et la société a déclaré Décrypter qui a enregistré un nombre record d'inscriptions quotidiennes au cours du week-end.

La pop star Katy Perry a partagé une capture d'écran de la page de tarification de Claude sur X. Des centaines d'utilisateurs ont publiquement documenté leurs désabonnements sur Reddit. Des graffitis faisant l'éloge d'Anthropic sont apparus devant ses bureaux à San Francisco, tandis que des attaques à la craie couvraient les trottoirs d'OpenAI. Même des centaines d'employés d'OpenAI avaient déjà signé une lettre ouverte soutenant le refus d'Anthropic de se plier aux exigences du Pentagone.

Le cadrage de QuitGPT est émotionnellement convaincant, mais pas entièrement précis. Anthropic lui-même a un partenariat avec Palantir et Amazon Web Services qui permet aux agences de renseignement et aux ministères de la défense américains d'accéder aux modèles de Claude, et il aurait été utilisé dans des opérations militaires visant à renverser les gouvernements du Venezuela et de l'Iran. L’éthique des contrats en matière d’IA et de sécurité nationale n’a jamais été claire d’un côté ou de l’autre.

Ce que la campagne a capturé avec précision, c'est qu'un large segment d'utilisateurs pensait qu'il y avait une différence significative dans la façon dont les deux sociétés délimitaient leurs frontières et votaient avec leurs abonnements.

Si cette différence est aussi importante qu’elle le paraît, elle nécessite une lecture attentive du contrat.