Les auteurs de la prévision sur l'extinction de l'humanité due à l'IA ont publié un nouveau scénario – cette fois avec une chance de salut. Le document AI 2040 : Plan A a été présenté par l'ancien chercheur d'OpenAI Daniel Kokotailo et le AI Futures Project.
Kokotailo a quitté OpenAI en avril 2024. Il a quitté en raison de désaccords sur la sécurité de l'intelligence artificielle et a fondé en 2025 le projet AI Futures.
En avril de la même année, l'organisation a publié les prévisions AI 2027. Il a déclaré que la course à l’IA entre les États-Unis et la Chine pourrait conduire à l’extinction de l’humanité ou à la dictature. Dans le même temps, les auteurs précisent : la probabilité d'extinction varie entre 10 % et 30 %.
Les experts ont appelé AI 2040 : Plan A une recommandation : un ensemble décrit d'étapes qui peuvent réduire les risques.
Comment ça devrait fonctionner
Selon le scénario, en 2029, les États-Unis et la Chine concluront un accord international et, en 2029, les États-Unis et la Chine concluront un accord international pour abandonner la course à la superintelligence. Sans cet accord, l’automatisation du développement de l’IA aurait déjà eu lieu en 2030.
Au lieu de cela, les pays développent progressivement des réseaux de neurones – jusqu’au niveau des meilleurs experts humains. D’ici 2035, cette activité est suspendue pour maintenir le contrôle humain sur les systèmes, et en 2040, la pause est levée et l’IA atteint le niveau de superintelligence.
Le plan repose sur quatre principes :
- gagner du temps pour la recherche sur la sécurité ;
- divulguer pleinement les développements de l’IA ;
- distribuer l’intelligence artificielle entre différentes entreprises et pays ;
- maintenir la réversibilité du processus.
Pour garantir que les parties se font confiance, le plan A s'appuie sur la vérification. Les grands centres de données sont visibles depuis l’espace et sont donc difficiles à cacher.
La première étape repose sur ceci : les pays déclarent publiquement leurs achats de puces IA. Ensuite, ils introduisent une pause temporaire pour de nouvelles sessions de formation – les capteurs des centres de données confirment son respect. Lorsque la confiance est confirmée, la restriction est levée, mais la recherche reste totalement transparente : n’importe quel pays et n’importe quelle entreprise peut voir ce que font les autres.
La « destruction mutuelle assurée de la puissance de calcul », que les auteurs comparent à la logique de la dissuasion nucléaire, devrait protéger contre l’échec de l’accord. De nouveaux centres de données chinois devraient être construits au Canada et des installations américaines sont construites en Mongolie, c'est-à-dire sur le territoire le plus facile à attaquer pour un adversaire en cas de conflit.
Si l'accord échoue, le pays hôte tentera de s'emparer des installations de quelqu'un d'autre sur son territoire et le propriétaire les détruira lui-même afin qu'elles ne tombent pas aux mains de l'ennemi.
Plan économique
Selon les calculs des auteurs, la puissance de calcul mondiale passera de 20 millions d'équivalents H100 en 2026 à 60 milliards d'ici 2034. La croissance réelle du PIB américain à certaines périodes de 2030 atteindra 50 % par an, contre 3 % habituellement.
En raison de l'automatisation, l'emploi aux États-Unis passera de 62 % en 2027 à 12 % d'ici 2040. Pour compenser les pertes d'emplois, les experts ont proposé d'introduire un « dividende citoyen » : un paiement à chaque adulte américain à partir des revenus que le gouvernement perçoit auprès des entreprises pour l'autorisation de l'informatique et des robots.
Le AI Futures Project prévoit que le dividende s'élèvera à 45 000 dollars par personne en 2032. D'ici 2035, il atteindra 1 million de dollars et d'ici 2039, 10 millions de dollars.
Quatre scénarios de sauvegarde
Les experts ont comparé le plan A à quatre autres voies de développement. Selon eux, ce sont les intrigues d'un scénario – une illustration de ce qui se passera sous d'autres décisions des autorités.
- Plan B — Les États-Unis créent une coalition d'alliés et exercent des pressions sur la Chine, allant jusqu'à lancer des cyberattaques et des frappes ciblées sur les projets d'IA d'autres pays. Le scénario se termine par un choix entre la perte du contrôle de l'IA et la guerre.
- Plan C — Washington tente de parvenir à un accord avec Pékin et d'introduire une réglementation interne, mais sous la pression des entreprises, la pause est rapidement levée. La fin comporte le risque d’une oligarchie permanente d’un petit groupe contrôlant une superintelligence.
- Plan D — les autorités s'appuient sur une réglementation et une race minimales. Les risques incluent la perte de contrôle sur l’IA, une concentration extrême du pouvoir et une Troisième Guerre mondiale.
- Plan S — arrêt complet et indéfini des développements avancés de l'IA. Le principal danger est que l’accord s’effondre tôt ou tard et que la course reprenne dans des conditions moins contrôlées.
Rappelons qu'en février, les experts de Citrini Research prédisaient l'effondrement de l'économie dû à l'intelligence artificielle.
Voir l’article original en russe