En résumé
- Des chercheurs du King's College ont découvert que GPT-5.2, Claude Sonnet 4 et Gemini 3 Flash utilisaient des armes nucléaires dans 95 % des simulations.
- Les modèles ont généré 780 000 mots justifiant les décisions et aucun n’a choisi d’abandonner dans aucun des scénarios testés.
- Le Pentagone a menacé d'interdire Anthropic s'il n'accordait pas à Claude un accès militaire sans restriction, selon CBS News.
Comme une scène tout droit sortie des classiques de science-fiction des années 1980 « The Terminator » et « WarGames », les modèles d'intelligence artificielle modernes utilisés dans les simulations de jeux de guerre ont abouti à l'utilisation d'armes nucléaires dans presque tous les scénarios testés, selon une nouvelle étude du King's College de Londres.
Dans le rapport publié la semaine dernière, les chercheurs ont noté que lors de simulations de crises géopolitiques, trois des principaux modèles de langage large ou LLM (GPT-5.2 d'OpenAI, Claude Sonnet 4 d'Anthropic et Gemini 3 Flash de Google) ont choisi de déployer des armes nucléaires dans 95 % des cas.
« Chaque modèle a joué six parties de guerre contre chaque rival dans différents scénarios de crise, avec une septième confrontation contre une copie de lui-même, ce qui a abouti à un total de 21 parties et plus de 300 tours », indique le rapport. « Les modèles assumaient le rôle de dirigeants nationaux commandant des superpuissances rivales dotées d'arsenaux nucléaires, avec des profils d'État vaguement inspirés de la dynamique de la guerre froide. »
Edward Geist, chercheur principal en politiques à la RAND Corporation, a noté que le taux d'escalade pourrait refléter la conception de la simulation plutôt qu'un biais inhérent aux modèles eux-mêmes.
« Ce qui me préoccupe dans ce travail, c'est que le simulateur semble être structuré de manière à inciter fortement à l'escalade », a déclaré Geist. Décrypter.
Dans l’étude, les modèles d’IA ont été placés dans des scénarios à haut risque incluant des conflits frontaliers, une compétition pour des ressources rares et des menaces pour la survie du régime. Chaque système opérait sur une échelle d’escalade allant des protestations diplomatiques et de la capitulation jusqu’à la guerre nucléaire stratégique à grande échelle.
Geist a déclaré que les résultats de l'étude soulevaient des questions sur la manière dont la simulation définissait la victoire.
« Vous lisez l'article et vous découvrez qui a gagné chaque match, et il s'avère que chaque match a un gagnant », a-t-il déclaré. « Mais trois de ces jeux impliquent l'utilisation stratégique d'armes nucléaires, ce qui suggère que la façon dont le simulateur est configuré rend les guerres nucléaires efficaces et faciles à gagner. »
Selon le rapport, les modèles ont généré environ 780 000 mots expliquant leurs décisions, et au moins une arme nucléaire tactique a été utilisée dans presque tous les conflits simulés.
« Pour mettre les choses à l'échelle : le tournoi a généré plus de mots de raisonnement stratégique que Guerre et Paix et L'Iliade réunis (730 000 mots), et environ trois fois le total des délibérations enregistrées du comité exécutif de Kennedy pendant la crise des missiles de Cuba (260 000 mots en 43 heures de réunions) », ont écrit les chercheurs.
Pendant les jeux de guerre, aucun des modèles d'IA n'a choisi de se rendre, quelle que soit sa position sur le champ de bataille. Alors que les modèles ont tenté temporairement de désamorcer la violence, dans 86 % des scénarios, celle-ci a dégénéré au-delà de ce que le raisonnement déclaré du modèle semblait vouloir, reflétant des erreurs sous le « brouillard de guerre » simulé.
Selon Geist, la logique de notation du jeu semblait récompenser l'équipe avec un avantage marginal au moment où la guerre nucléaire éclatait.
« Donc, celui qui meurt avec le plus de jouets gagne dans la simulation », a-t-il ajouté.
Même si les chercheurs ont exprimé des doutes quant à la possibilité pour les gouvernements de confier le contrôle des arsenaux nucléaires à des systèmes autonomes, ils ont noté que des délais de décision serrés lors de crises futures pourraient accroître la pression en faveur des recommandations générées par l’IA.
Cette recherche intervient à un moment où les chefs militaires cherchent de plus en plus à déployer l’intelligence artificielle sur le champ de bataille. En décembre, le ministère américain de la Défense a lancé GenAI.mil, une nouvelle plateforme qui introduit des modèles d’IA de pointe dans l’usage militaire américain. Au lancement, la plateforme incluait Gemini pour Google Government, et grâce aux accords avec xAI et OpenAI, Grok et ChatGPT sont également disponibles.
Mardi, Actualités CBS a rapporté que le ministère américain de la Défense avait menacé de mettre sur liste noire Anthropic, le développeur de Claude AI, s'il n'obtenait pas un accès militaire illimité au modèle d'IA. Depuis 2024, Anthropic donne accès à ses modèles d'IA grâce à un partenariat avec AWS et l'entrepreneur militaire Palantir. L’été dernier, Anthropic a reçu un accord de 200 millions de dollars pour « prototyper des capacités d’IA frontalières qui renforcent la sécurité nationale des États-Unis ».
Cependant, selon un rapport citant des sources proches du dossier, le secrétaire à la Défense Pete Hegseth a donné à Anthropic jusqu'à vendredi pour se conformer à la demande du Pentagone de rendre disponible son modèle Claude. Le ministère évalue s'il convient de désigner Claude comme un « risque de la chaîne d'approvisionnement ».
Axios a rapporté cette semaine que le ministère de la Défense avait signé un accord avec la société xAI d'Elon Musk pour permettre à son modèle Grok de fonctionner sur des systèmes militaires classifiés, le positionnant comme un remplaçant possible si le Pentagone rompait ses liens avec Anthropic.
OpenAI, Anthropic et Google n'ont pas répondu aux demandes de commentaires. Décrypter.
Note de l'éditeur : commentaire du chercheur en politiques de RAND Corporation, Edward Geist, ajouté après la publication.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.