Demis Hassabis, PDG de Google DeepMind, a proposé de créer un organisme de normalisation aux États-Unis pour tester les modèles d'IA les plus puissants avant leur lancement. Il estime que l’intelligence artificielle générale (AGI) pourrait émerger « dans quelques années », avec un impact comparable à la découverte de l’électricité ou du feu.
https://t.co/PTeDiv1b6L
– Demis Hassabis (@demishassabis) 14 juillet 2026
Par AGI, Hassabis désigne un système qui possède toutes les capacités cognitives du cerveau humain. À son avis, une telle technologie ne peut même pas être comparée à Internet ou aux communications mobiles.
« Lorsque nous repenserons à cette période dans les décennies à venir, je pense que nous réaliserons que nous nous trouvons au pied d’une singularité – rien de moins que le début d’une nouvelle ère pour l’humanité », a écrit Hassabis.
Le responsable de DeepMind estime qu'AGI sera en mesure d'accélérer le développement de médicaments, de nouvelles sources d'énergie propre et de matériaux avancés. Dans le même temps, les capacités de l’IA se développent plus rapidement que la compréhension des risques qui y sont associés, a-t-il noté.
Les modèles avancés d'aujourd'hui créent déjà des menaces pour la cybersécurité. À mesure que leurs capacités augmentent, les risques biologiques, nucléaires et autres peuvent augmenter. Hassabis a également mis en garde contre l’émergence de systèmes plus autonomes, capables d’exécuter des séquences d’actions complexes et de s’améliorer de manière récursive. Pour en garder le contrôle, des mesures techniques de protection supplémentaires seront nécessaires.
Le nouvel organisme déterminera les meilleurs modèles
Hassabis a proposé de créer un organisme de normalisation Frontier AI basé sur FINRA. La nouvelle structure pourrait fonctionner comme un partenariat public-privé ou un organisme d’autoréglementation sous surveillance fédérale. Il devrait être financé en priorité par l’industrie de l’IA.
Le guide est encouragé à inclure des experts techniques indépendants et des représentants de la communauté open source. L'autorité élaborera des protocoles d'évaluation en collaboration avec les agences fédérales et les laboratoires nationaux américains.
Des tests spéciaux doivent déterminer si le modèle appartient à la classe avancée. Les tests couvriront la cybersécurité, les menaces biologiques et d'autres domaines à haut risque. Des contrôles distincts identifieront les tentatives des modèles visant à contourner les restrictions de sécurité, à induire les utilisateurs en erreur ou à masquer leurs actions.
La vérification peut être rendue obligatoire
Dans un premier temps, les entreprises soumettront volontairement des modèles avancés pour examen au plus tard 30 jours avant leur publication.
Après avoir confirmé l’efficacité du système, la procédure peut être légiférée. Les modèles avancés devraient ensuite passer avec succès une évaluation avant d'être commercialisés sur le marché américain. Hassabis a également proposé de créer un marché pour les auditeurs indépendants et d'utiliser le système américain comme base pour les futures normes internationales.
En juin, le président américain Donald Trump a signé un décret sur les tests volontaires des cybercapacités des modèles avancés d’IA. Les entreprises pourront en donner accès aux autorités pendant 30 jours maximum avant de les transférer à des partenaires externes de confiance. Le document interdit directement d'interpréter ce mécanisme comme une licence obligatoire ou l'obtention d'une autorisation préalable pour publier des modèles.
Dans l’essai lui-même, Hassabis reconnaît que le développement futur de la technologie reste incertain et que même les experts ne sont pas d’accord.
Plus tôt, les médias ont appris que l'administration Trump avait demandé à OpenAI de ne pas publier immédiatement GPT-5.6 au public en raison de problèmes de sécurité. La société de Sam Altman a initialement mis le modèle à la disposition d'un nombre limité de clients.
En juillet, le secrétaire général de l'ONU, Antonio Guterres, a appelé à des règles communes pour les systèmes d'IA avancés, protégeant les enfants des risques liés aux chatbots, interdisant les systèmes d'armes létaux autonomes et élargissant l'accès des pays en développement aux ressources informatiques.
Rappelons qu'en juillet, des manifestants à San Francisco ont exigé qu'OpenAI, Anthropic et Google DeepMind suspendent de manière coordonnée la formation de modèles plus puissants. Ils ont proposé d'utiliser les ressources libérées pour la sécurité.
Le même mois, l'ancien chercheur d'OpenAI, Daniel Kokotailo, a proposé de ralentir la course à l'IA jusqu'en 2040.
Voir l’article original en russe
