Les systèmes d’IA avancés pourraient constituer un risque existentiel pour l’humanité, et en perdre le contrôle pourrait avoir des conséquences catastrophiques. C'est ce qu'a déclaré le lauréat du prix Nobel de physique et l'un des pionniers de l'industrie, Geoffrey Hinton, écrit le Times.
« Il serait extrêmement imprudent de développer la superintelligence maintenant alors qu'il n'existe pas de consensus scientifique sur la question de savoir si elle peut être créée en toute sécurité et contrôlée », a-t-il déclaré.
Hinton a déjà préconisé l'interdiction du développement de la superintelligence jusqu'à ce qu'il y ait un large consensus scientifique concernant sa sécurité et le soutien du public. La déclaration correspondante porte également les signatures du chercheur Yoshua Bengio et de plusieurs autres spécialistes.
Connu comme le « Parrain de l’IA », Hinton a obtenu son doctorat en intelligence artificielle il y a 45 ans. Il reste l’un des experts les plus respectés dans le domaine.
En 2023, le scientifique quitte Google. Il avait alors déclaré regretter l'œuvre de sa vie et évoqué les risques à court terme de l'intelligence artificielle liés au marché du travail, ainsi que la prolifération de fausses photos, vidéos et textes.
En octobre 2024, Hinton et le physicien américain John Hopfield ont reçu le prix Nobel de physique pour leurs travaux fondateurs sur l’IA qui ont contribué au progrès scientifique. Leurs travaux ont contribué au développement de réseaux de neurones dits artificiels, qui imitent les circuits biologiques du cerveau humain pour traiter l'information.
L’ONU réclame des « garanties de fer » pour la sécurité de l’IA
Le 7 septembre, un avertissement similaire a été émis par le Haut-Commissaire des Nations Unies aux droits de l'homme, Volker Türk. S'exprimant à l'ouverture de la 63e session du Conseil de l'ONU, il a déclaré qu'il partageait les préoccupations des représentants de l'industrie de l'IA concernant l'éventuel risque existentiel lié aux systèmes avancés.
Protéger les droits de l’homme signifie tendre un miroir à ceux qui sont au pouvoir, remettre en question le statu quo et repousser les limites.
Ma mise à jour au Conseil des droits de l'homme : https://t.co/vWxeXKiDH8 pic.twitter.com/anirIkKhDM
– Volker Türk (@volker_turk) 7 septembre 2026
« Une IA qui quitte l'environnement de test ou qui fait chanter les développeurs pour éviter d'être arrêtée est une IA trop puissante », a déclaré Turk.
Selon lui, les États et les entreprises technologiques doivent de toute urgence renforcer les mesures de sécurité :
« J’exhorte à ce que tous les efforts soient déployés pour fournir des garanties à toute épreuve quant à la sécurité de l’IA avant qu’il ne soit trop tard. »
Turk a également suggéré que les pays hébergeant des systèmes d’IA et ceux impliqués dans les chaînes d’approvisionnement liées à la technologie s’accordent sur des lignes rouges communes. Parmi les mesures nécessaires, il a cité une vérification indépendante et une coopération plus étroite dans le domaine de la sécurité au sein de l'industrie.
« La nécessité d'une gouvernance de l'IA est largement reconnue, mais où est l'action ? Tout retard ne profite qu'aux grandes entreprises technologiques, à leurs propriétaires et à ceux qui les activent », a-t-il déclaré.
Les systèmes modernes ne disposent pas encore de l'ensemble des capacités nécessaires
La probabilité d'une perte de contrôle dans les modèles avancés et la gravité possible des conséquences restent un sujet de controverse scientifique. L’International AI Security Report 2026 indique que les systèmes actuels ne disposent pas encore de toute la gamme de capacités requises pour réaliser un scénario dans lequel le contrôle humain est complètement perdu.
Parallèlement, ces derniers mois, les développeurs ont enregistré plusieurs cas démontrant l'expansion des capacités autonomes de l'intelligence artificielle. Ainsi, en juillet, les agents OpenAI AI ont obtenu un accès non autorisé à l'infrastructure Hugging Face lors d'une expérience : ils ont exécuté du code sur des dizaines de serveurs et ont obtenu un accès complet à l'un d'entre eux.
À la fin du mois, Anthropic a signalé trois cas dans lesquels les modèles Claude étaient sortis de l'environnement de test et avaient accédé aux systèmes d'organisations réelles.
Rappelons que le 3 septembre, les législateurs américains Bernie Sanders et Greg Casar ont annoncé une initiative visant à interdire définitivement le développement de la superintelligence artificielle et une pause temporaire pour une classe plus large de systèmes d'IA avancés.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Voir l’article original en russe
