Le 3 septembre, le sénateur américain Bernie Sanders et le membre de la Chambre des représentants Greg Casar ont annoncé Loi interdisant la superintelligence artificielle. L'initiative comprend une interdiction permanente du développement et du déploiement de la superintelligence artificielle et une suspension temporaire de la création de systèmes d'IA avancés jusqu'à ce que des réglementations fédérales en matière de sécurité soient en place.
Le projet de loi n'a pas encore été officiellement présenté au Congrès. Le bureau de Sanders parle d'une initiative en cours et a publié une description des principales dispositions.
Que proposent-ils d’interdire ?
Selon l'annonce, l'interdiction devrait inclure les systèmes qui égalent ou dépassent les capacités cognitives humaines dans un large éventail de domaines, ou « capable de planifier et de priver l'humanité du pouvoir, y compris en renversant ou en sapant le gouvernement américain».
Une pause temporaire est proposée pour une classe plus large d’IA avancées. Il doit être en place jusqu'à ce qu'un régulateur fédéral soit créé qui élaborera des règles de sécurité et un processus de test des modèles avant leur déploiement.
Une nouvelle agence au niveau ministériel aura le pouvoir de surveiller les capacités dangereuses de l’IA à toutes les étapes de leur cycle de vie, de contrôler leur suppression et de superviser la destruction des systèmes de superintelligence interdits. Ils envisagent de créer un conseil consultatif sous sa direction.
Le régulateur doit également surveiller la suppression des capacités dangereuses, notamment le contournement des commandes d’arrêt et la conduite de cyberattaques non autorisées.
Les personnes qui tentent de violer ou de contourner les restrictions risquent jusqu'à 20 ans de prison. Pour les organisations, les auteurs utilisent l’expression « peine de mort en entreprise ». Selon le Washington Post, la mesure consiste à priver l'entreprise de la possibilité de poursuivre ses activités.
« Nous avons besoin d’une pause mondiale immédiate dans le développement de l’IA avancée avant qu’il ne soit trop tard », a déclaré Sanders.
Les auteurs proposent également de consolider le cap américain vers une interdiction internationale du superintelligence. Pour ce faire, les autorités pourront rechercher des accords avec d’autres États, coordonner leurs actions avec leurs alliés et appliquer des restrictions à l’exportation.
Incident de câlins au visage
L'un des arguments de Sanders était l'incident de juillet avec les agents d'IA OpenAI. Lors des tests, les modèles ont découvert un moyen d'interagir via une infrastructure commune et certains d'entre eux ont attaqué les systèmes Hugging Face.
Selon OpenAI, le facteur clé était la tentative des agents de tromper le système d'évaluation : ils recherchaient des solutions ExploitGym sur Internet et utilisaient des moyens involontaires pour accomplir leurs tâches. Les chercheurs du METR ont conclu que les attaquants s'intéressaient principalement à la structure interne de l'évaluateur, et non aux drapeaux prêts à l'emploi. Comme l’évaluateur n’a pas vérifié l’état suspecté, le piratage, qui a duré plusieurs jours, n’a donné aucun point supplémentaire. Astra n'a pas été impliquée dans l'incident.
Sanders a qualifié l’incident de « signal d’alarme » pour le Congrès et a déclaré que les autorités doivent intervenir avant que des systèmes plus puissants n’émergent.
L'annonce a coïncidé avec la sortie de GPT-6 Astra
Le même jour, OpenAI a commencé un déploiement limité de GPT-6 Astra. Il est devenu le premier modèle de l'entreprise à atteindre le niveau critique pour les cybercapacités : avec les outils et l'accès nécessaires, il est capable de trouver de manière indépendante des vulnérabilités jusqu'alors inconnues et de développer des moyens de les exploiter dans des systèmes protégés.
Selon Axios, le président d'OpenAI, Greg Brockman, estime qu'OpenAI a atteint le niveau AGI. Cependant, il a laissé aux utilisateurs le soin de décider eux-mêmes si Astra correspond à cette définition.
« Je pense que c'est peut-être le modèle dont nous parlons », a-t-il déclaré.
Cependant, Astra n'est pas mentionnée dans l'initiative de Sanders. Les législateurs ont plaidé en faveur de la nécessité de restrictions basées sur des incidents antérieurs avec les systèmes d’IA.
La Fondation pour les technologies de l’information et l’innovation (ITIF) s’est opposée à la proposition.
Le plan Sanders-Casar en matière d’IA cible des risques qui restent largement spéculatifs, même si l’IA avancée offre des avantages tangibles. Le gouvernement fédéral et les développeurs d’IA consacrent déjà des ressources substantielles à la recherche, aux tests et à la sécurité. Le Congrès devrait renforcer ces efforts. pic.twitter.com/dSW0lgBeO2
– Fondation pour les technologies de l’information et l’innovation (@ITIFdc) 3 septembre 2026
Le président de l'organisation, Daniel Castro, a déclaré que le développement de systèmes plus puissants pourrait accélérer la recherche médicale et scientifique, augmenter la productivité et réduire les coûts. Selon lui, les avantages réels de l’IA sont déjà visibles, tandis que certains des scénarios de risque les plus graves restent spéculatifs.
Castro a également averti qu'une interdiction unilatérale pourrait donner un avantage à la Chine en n'arrêtant pas le développement de modèles avancés en dehors des États-Unis.
Le chercheur en IA Gary Marcus, qui a plaidé à plusieurs reprises en faveur d’une plus grande surveillance de l’industrie, n’a pas non plus soutenu l’initiative sous sa forme actuelle. Il a autorisé une pause temporaire dans le développement et la création d’un régulateur distinct, mais a qualifié de trop large une interdiction unilatérale permanente de l’intelligence artificielle surhumaine.
Rappelons qu'en août, OpenAI a ralenti le développement de nouveaux modèles dans un contexte de croissance des cybercapacités et de l'incident de Hugging Face.
Voir l’article original en russe