Proposition choc de Bernie Sanders : tout arrêter jusqu'à ce que le gouvernement intervienne
Le sénateur Bernie Sanders proposera une loi pour l'arrêter développement de ce qu'il appelle super-intelligences artificiellesc'est-à-dire LLM et autres systèmes qui peuvent surpasser l'intelligence humaine et/ou échapper au contrôle. Dans le même temps, la loi qu’il proposera gelera le développement des modèles actuels jusqu’à ce que le Congrès soit en mesure d’imposer des garde-fous crédibles. Il s’agit de la tentative la plus forte de réaction législative au cycle de l’IA.
La proposition prévoit jusqu'à 20 ans de prison pour quiconque tente de contourner ces limitations en suivant le cadre juridique utilisé aujourd'hui pour le développement des armes nucléaires. Pour Ponceuses ce serait une tentative raisonnable d'arrêter les oligarques technologiequ'il a identifié comme OpenAI, Anthropic et Meta. Entre autres choses, en sa faveur, Sanders répond également aux demandes des principaux développeurs de LLM visant à ralentir le développement de tels systèmes. On l'appellera Loi sur l'interdiction de la superintelligence artificielle – mais on ne sait pas exactement quel soutien il pourra rassembler parmi les membres du Congrès.
20 ans de prison, arrêt du développement, attente de garde-fous
Le programme proposé par la loi est en réalité structuré :
- Interdiction des superintelligences IA
Sanders les identifie comme des systèmes capables de surpasser l’intelligence humaine ou capables de renverser des gouvernements, ou encore des systèmes capables d’ignorer les commandes d’arrêt.
- Pause dans le développement de l'IA
La pause serait en place jusqu'à ce qu'une nouvelle agence fédérale dédiée à l'IA soit opérationnelle et puisse établir des règles, des révisions de modèles et d'autres garanties de sécurité. Il faudra également créer une nouvelle agence gouvernementale dont le seul but est de défendre le public contre les dangers de l’IA.
Jusqu'à 20 ans pour les personnes qui ignorent ces restrictions ou tentent de les contourner. Annulation des entreprises qui participeront à de tels efforts. Il s'agit de règles conformes à celles prévues par la législation américaine actuelle sur les limites au développement nucléaire.
Dans la proposition de Bernie Sanders, il y a également de la place pour la coopération internationale. Les États-Unis devraient passer du temps à conclure des accords, à se coordonner avec leurs alliés et même à imposer des limites aux exportations pour limiter le développement de la « superintelligence artificielle » partout dans le monde.
Il est difficile d'obtenir un consensus
Celui de Bernie Sanders – dont beaucoup se souviendront comme candidat aux primaires démocrates – semble cependant, du moins pour le moment, être une bataille relativement solitaire.
Pour le moment, il ne semble pas exister un consensus capable de se rassembler en faveur de cette loi. La loi est cosignée par Greg Casar, député.
Voici la proposition.
Voir l’article original en italien
