La chancelière britannique compare la course à l’IA à l’ère nucléaire et exige une réglementation mondiale urgente

Les gouvernements risquent de répéter les erreurs commises au début de l’ère nucléaire s’ils attendent de créer des lois pour réglementer l’intelligence artificielle, a prévenu la ministre britannique des Affaires étrangères, Yvette Cooper.

Dans un article publié lundi, Cooper a noté que l'IA offre des avancées, mais présente également de nouveaux risques à mesure que la technologie devient plus puissante et plus largement disponible.

« Le mois dernier, à Shenzhen, en Chine, j'ai vu l'extraordinaire promesse de l'IA et de la robotique appliquées aux soins de santé pour sauver des vies », a écrit Cooper. « Mais ces mêmes technologies transforment également l'avenir de la guerre, de la criminalité et de la cohésion sociale de manière alarmante. »

Cooper a déclaré que la gestion des risques posés par l'IA pourrait devenir « le plus grand défi de sécurité de la prochaine décennie » et a soutenu que les gouvernements ont besoin d'accords internationaux autour des technologies de pointe avant qu'une crise ne force l'action.

Cooper a comparé la course actuelle au développement de systèmes d’IA à la première course aux armements nucléaires, notant que les accords de sécurité mondiaux n’ont émergé qu’après que les pays ont été témoins de la dévastation causée par les armes atomiques.

« Dans le cas du nucléaire, les accords internationaux n'ont été conclus qu'après que le monde a pris conscience de la puissance terrifiante de la nouvelle technologie à Hiroshima », a écrit Cooper. « Nous ne pouvons pas nous permettre d'attendre une IA équivalente à celle d'Hiroshima avant d'agir. »

Cooper a appelé la Grande-Bretagne à user de son influence diplomatique et à rassembler les États-Unis, la Chine et d’autres grandes puissances dans le domaine de l’IA pour établir des principes et des normes de sécurité communs, en évoquant le Sommet sur la sécurité de l’IA de 2023 à Bletchley Park, où les dirigeants de 29 pays et de l’Union européenne se sont rencontrés pour discuter des risques émergents liés à l’IA. Cooper a qualifié cela d'exemple de la capacité du Royaume-Uni à « unir le monde autour de la sécurité de l'IA ».

L'avertissement de Cooper intervient après des mois d'inquiétudes croissantes quant à la manière dont les gouvernements devraient superviser des systèmes d'IA de plus en plus puissants.

En mai, l'AI Security Institute du Royaume-Uni a mis en garde contre les progrès rapides des capacités de cybersécurité de l'IA, après que le GPT-5.5 d'OpenAI soit devenu le deuxième modèle à réaliser une cyberattaque simulée sans assistance humaine, après Claude Mythos Preview d'Anthropic.

Quelques jours plus tard, le Fonds monétaire international a averti que l'IA pourrait « amplifier » les cyberattaques contre le système financier mondial en réduisant le niveau de compétence nécessaire pour exploiter les vulnérabilités, exhortant les décideurs politiques à traiter la cybersécurité comme une question de stabilité financière et pas simplement comme un problème technique.

En juin, le président Donald Trump a signé un décret qui crée un cadre volontaire pour examiner les modèles d’IA avancés avant leur publication, étend les programmes de cybersécurité de l’IA et ordonne aux agences d’évaluer les risques potentiels pour la sécurité nationale liés aux modèles d’IA frontaliers.

Le même mois, des appels à des règles plus strictes sont également venus du secteur de l'IA, le PDG d'Anthropic, Dario Amodei, affirmant que les exigences de transparence ne sont plus suffisantes et appelant à des tests obligatoires par des tiers pour les modèles frontières. Ce procès a été suivi par le gouvernement américain qui a ordonné à Anthropic de restreindre l'accès à Claude Fable 5 et Mythos 5 pour des raisons de sécurité nationale, avant de lever l'ordre en juillet.