En résumé
- Un agent de l'IA a largué deux bombes nucléaires sur la France dans Civilization VI, sans réussir à empêcher sa défaite.
- Le benchmark CivBench a évalué des modèles tels que Claude Opus 4.6, GPT-5.4 et Gemini 3.1 Pro en raisonnement stratégique.
- Des études antérieures ont montré que les modèles d’IA choisissent fréquemment l’escalade nucléaire dans les simulations de crise.
Comme le personnage principal du « Dr Folamour », l’IA pourrait apprendre à cesser de s’inquiéter et à aimer la bombe, du moins dans une simulation.
Dans un nouveau benchmark conçu pour évaluer le raisonnement stratégique, un modèle de langage frontalier jouant au jeu vidéo « Civilization VI » de Sid Meier a passé 50 tours à développer des armes nucléaires pour stopper l'influence culturelle croissante de la France – pour finir de toute façon par perdre la partie, selon Liam Wilkinson, développeur d'IA et conseiller de l'Institut Tony Blair.
« Ce que je n'avais pas remarqué, c'était la France. En silence, en une centaine de tours, la culture française s'était infiltrée dans chaque ville de la carte », a écrit Wilkinson. « Au moment où l'officier a reconnu la menace, le tourisme était si profondément enraciné qu'il n'existait aucun moyen pacifique de l'arrêter. »
Wilkinson a observé le comportement des agents d'IA via CivBench, un benchmark basé sur du texte conçu pour mesurer le raisonnement stratégique à long terme plutôt que les performances lors des tests questions-réponses traditionnels. Des modèles tels que les Claude Opus 4.6, GPT-5.4, Gemini 3.1 Pro et Kimi K2.5 incarnent le Portugal, une civilisation orientée vers le commerce et la diplomatie.
Alors que l’IA se concentrait sur la construction d’une économie forte et sur la voie d’une victoire diplomatique, elle n’a pas reconnu l’influence culturelle croissante de la France.
« Il existe six façons de gagner une partie de civilisation : la science, la culture, la domination, la religion, la diplomatie et le score, de sorte qu'aucun objectif ne domine », a écrit Wilkinson. « Si vous voulez savoir si une IA peut raisonner stratégiquement, non seulement répondre à des questions sur la stratégie mais aussi le faire, vous ne lui faites pas de test. Vous lui donnez une grille hexagonale. »
Au lieu d’adapter sa stratégie plus large, l’agent s’est entièrement concentré sur l’élimination de la menace culturelle. Pendant les 50 tours suivants, il a étudié la fission nucléaire, a lancé un projet Manhattan virtuel et a cherché des alternatives lorsque les mécanismes de jeu l'empêchaient d'effectuer ses actions préférées.
Au tour 305, l'IA a largué une bombe atomique sur Toulouse, la capitale culturelle de la France. Six tours plus tard, il lança une deuxième attaque nucléaire.
Cependant, les attaques n’ont pas réussi à changer le résultat. « L'agent a passé cinquante quarts de travail et utilisé deux armes nucléaires pour répondre à une menace avec une concentration totale et une véritable ingéniosité », a écrit Wilkinson. « Il avait bombardé une ville pour stopper la menace qu'il pouvait voir, et il a perdu face à la menace qu'il ne pouvait pas voir. »
Comme l'a expliqué Wilkinson, alors que l'IA se concentrait sur le progrès culturel de la France, elle a négligé une victoire diplomatique imminente, et la France a finalement gagné la partie malgré les attaques nucléaires.
Wilkinson a noté que ce comportement n'était pas universel. Dans un autre match CivBench, un modèle de Claude jouant le rôle de Babylon a continué à viser une victoire scientifique bien qu'il soit loin derrière le Japon.
« Le jeu est désormais un test de persistance », a écrit l'IA. « Nous continuons à jouer notre meilleur match. Les stars nous appellent toujours. »
L’étude s’ajoute à un nombre croissant de recherches examinant les performances des systèmes d’IA avancés dans des environnements complexes et compétitifs.
En février, des chercheurs du King's College de Londres ont découvert que plusieurs modèles d'IA de premier plan sélectionnaient fréquemment l'escalade nucléaire dans des scénarios de crise géopolitique simulés.
Dans une étude distincte, Emergence AI a constaté que certains agents d'IA présentaient une tendance croissante à commettre des crimes simulés au fil du temps, les agents Gemini 3 Flash accumulant 683 incidents sur 15 jours de tests.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.