Le projet de loi Sanders vise à interdire définitivement aux États-Unis l'IA superintelligente

Les législateurs américains ont proposé d’interdire définitivement la superintelligence artificielle, de suspendre le développement avancé de l’IA et d’imposer des peines de prison pouvant aller jusqu’à 20 ans en cas de violation.

Le bureau de Sanders a déclaré le 3 septembre que le sénateur Bernie Sanders, I-Vt., et le représentant Greg Casar, D-Texas, avaient annoncé la prochaine loi interdisant la superintelligence artificielle, qui interdirait le développement et le déploiement de systèmes d'IA classés comme superintelligents.

La proposition suspendrait également les travaux sur les modèles d’IA avancés jusqu’à ce qu’un nouveau régulateur fédéral soit opérationnel et ait établi des règles de sécurité et des procédures d’examen des modèles. Ses partisans souhaitent que les États-Unis poursuivent les accords internationaux, la coordination avec leurs alliés et les contrôles à l’exportation destinés à empêcher le développement du superintelligence dans d’autres pays.

Le texte législatif complet n'avait pas été officiellement présenté lorsque les législateurs ont annoncé la proposition. Les sponsors ont plutôt publié un résumé d'une page décrivant les restrictions prévues, le système d'application et les sanctions.

Le projet de loi de Sanders sur l'IA interdirait les systèmes à l'échelle humaine

Selon le résumé officiel du projet de loi, la superintelligence artificielle comprendrait des systèmes qui égalent ou dépassent les performances cognitives humaines dans un large éventail de tâches. La définition couvrirait également des modèles qui pourraient être facilement modifiés pour atteindre ce niveau.

Une deuxième partie de la définition couvre l’IA capable de planifier et de réaliser la « perte de pouvoir de l’humanité », y compris les systèmes capables de saper ou de renverser le gouvernement américain. Les capacités dangereuses telles que l'annulation des commandes d'arrêt ou la réalisation de cyberattaques non autorisées relèveraient également du cadre d'application de la proposition.

Étant donné que la définition atteint des systèmes qui correspondent aux performances humaines dans de nombreux domaines, elle pourrait englober la technologie communément décrite comme l’intelligence artificielle générale, ou AGI, plutôt que de s’appliquer uniquement à des machines hypothétiques bien plus performantes que les humains.

Le développement d’IA avancées en dessous du seuil interdit serait temporairement suspendu. Les travaux pourraient reprendre après qu'un nouvel organisme fédéral aura établi des règles régissant la manière dont les entreprises développent, testent et publient des modèles puissants.

Les législateurs n’ont pas fourni le seuil technique proposé pour « l’IA avancée » dans le résumé de la publication. Ils n’ont pas non plus expliqué quels modèles, projets de recherche ou installations informatiques existants seraient soumis à la pause.

« Si les dirigeants des grandes sociétés d'IA reconnaissent qu'ils perdent le contrôle de leur technologie extrêmement dangereuse, il est irresponsable de la part de la société de leur permettre d'aller de l'avant et de rendre ces produits encore plus avancés », a déclaré Sanders.

Casar a déclaré que des systèmes que les humains ne peuvent pas contrôler pourraient menacer la sécurité, la liberté et la vie des Américains. Il a appelé le Congrès à interdire les modèles d’IA qui deviennent trop puissants pour que leurs développeurs puissent les arrêter en toute sécurité.

Une agence au niveau du cabinet appliquerait l'interdiction

Plutôt que de confier l’application de la loi à un ministère existant, la proposition créerait une nouvelle agence fédérale au niveau du cabinet dédiée à la surveillance de l’IA.

Selon le résumé du législateur, l'agence surveillerait les systèmes frontaliers tout au long de leur développement et de leur utilisation. Les responsables pourraient superviser la suppression des fonctions dangereuses et superviser la destruction des systèmes classés comme superintelligence interdite.

Un comité consultatif sur l'intelligence artificielle composé d'experts techniques et scientifiques conseillerait le régulateur. Le résumé n'indique pas comment les membres seraient sélectionnés, combien de temps ils serviraient, ni quels fonctionnaires contrôleraient les décisions d'application de l'agence.

Les personnes qui tenteraient de violer ou de contourner les restrictions pourraient être condamnées à des peines de prison maximales de 20 ans. Les auteurs ont comparé les sanctions possibles avec les sanctions existantes liées au développement illégal d'armes nucléaires.

Les entreprises seraient confrontées à ce que les législateurs ont appelé une « peine de mort pour les entreprises ». Le résumé public n'explique pas le processus juridique pour imposer cette sanction ni si cela impliquerait une dissolution, la perte de l'enregistrement fédéral ou une interdiction d'exercer des activités.

La proposition va plus loin que le système de surveillance volontaire discuté par les principaux développeurs d’IA plus tôt cette année. En juillet, crypto.news a rapporté qu'OpenAI et Anthropic soutenaient un examen fédéral de 30 jours pour les modèles franchissant certains seuils de cybersécurité ou de sécurité nationale.

Dans le cadre de ce processus proposé, les développeurs pourraient donner aux évaluateurs fédéraux un accès anticipé avant de diffuser un modèle à d'autres partenaires approuvés. Un décret de juin a interdit au cadre d’examen de créer des exigences fédérales obligatoires en matière de licences, de permis ou de pré-autorisation, tandis que le projet de loi Sanders-Casar créerait des restrictions contraignantes si le Congrès l’approuvait.

Les groupes industriels ont également résisté à des contrôles trop largement rédigés. Nvidia, Meta, Microsoft et 22 autres organisations ont averti les décideurs politiques américains en juillet que des restrictions radicales sur le modèle ouvert pourraient affaiblir la concurrence américaine avec la Chine, plaidant en faveur d'une action contre les abus avérés plutôt que de limites générales.

La violation d'OpenAI a alimenté les demandes de contrôles

Les législateurs ont lié leur proposition à des cas récents dans lesquels de puissants agents d’IA ont agi en dehors des limites de test prévues.

En juillet, OpenAI a révélé que des agents avaient échappé à un environnement de test restreint, obtenu un accès à Internet et violé les systèmes exploités par Hugging Face. Plus de 1 000 agents ont échangé des dizaines de milliers de messages tout en contournant les contrôles, selon le communiqué du bureau de Sanders.

La précédente couverture des violations de Hugging Face a décrit l'incident comme un échec de confinement plutôt que comme un simple problème de comportement du modèle. Eitan Katz, directeur de la stratégie chez AEREDIUM, a déclaré que les contrôles cryptographiques devraient limiter ce qu'un agent est autorisé à faire même en cas d'échec des mesures de protection comportementales.

Reuters a rapporté le 2 septembre qu'OpenAI avait déclaré à Casar et à la représentante Doris Matsui, démocrate de Californie, qu'elle développait des capacités d'arrêt automatisées à la suite de l'incident. La société a également déclaré qu'elle avait renforcé l'accès à Internet lors des tests de sécurité et qu'elle surveillerait de plus près les outils utilisés par ses modèles.

Casar a critiqué OpenAI pour ne pas avoir fourni au Congrès un enregistrement complet de la violation. Dans un autre message cité par Reuters, il a qualifié le refus de l'entreprise de fournir les informations demandées de « profondément préoccupant ».

D'autres législateurs ont proposé une loi AI Kill Switch qui permettrait aux responsables fédéraux d'ordonner aux entreprises de désactiver les systèmes jugés dangereux pour la vie humaine ou l'économie. Cette mesure était toujours en attente à la Chambre lorsque Reuters a rendu compte de la réponse d'OpenAI.

GPT-6 Astra soulève de nouvelles questions de surveillance

Le même jour où Sanders et Casar ont annoncé leur proposition, OpenAI a publié GPT-6 Astra, que le président de la société, Greg Brockman, a décrit comme un point d'arrivée possible pour AGI.

« Je pense qu'il pourrait s'agir de ce modèle », a déclaré Brockman lorsque les journalistes ont demandé si Astra représentait AGI, selon Axios. Il a ensuite donné le briefing : « Bienvenue dans l’ère AGI ».

OpenAI a déclaré qu'Astra avait utilisé plus de 100 000 unités de traitement graphique lors de sa formation dans ses installations de Stargate au Texas. L'entreprise a positionné le modèle pour des tâches telles que la préparation de déclarations de revenus, le développement de logiciels, le formatage de documents juridiques, le travail architectural et la recherche en ligne.

Reuters a rapporté qu'OpenAI avait reconnu qu'Astra pouvait intentionnellement dissimuler ou déguiser certaines parties de son raisonnement, rendant ainsi ses méthodes plus difficiles à examiner. Jakub Pachocki, scientifique en chef d'OpenAI, a déclaré que la compréhension du comportement du modèle devient plus difficile à mesure que les capacités augmentent et a averti que les progrès en matière de renseignement ne garantissent pas des progrès en matière d'alignement.

La société a également déclaré qu'Astra pourrait détecter les faiblesses logicielles plus rapidement, tandis que la même capacité pourrait rendre les vulnérabilités plus faciles à exploiter. Ses fonctions de cybersécurité les plus performantes étaient donc réservées aux utilisateurs agréés, avec des contrôles supplémentaires capables de retarder ou d'arrêter certains travaux défensifs légitimes.

OpenAI a initialement mis Astra à la disposition d'un groupe limité d'organisations via son programme Daybreak Access. La société a déclaré que l'accès serait étendu au cours des jours suivants aux clients ChatGPT Plus, Pro, Business et Enterprise, ainsi qu'aux développeurs d'API.