Les législateurs américains ont répondu à la démission d'un chercheur d'Anthropic en prenant de nouvelles mesures pour stopper le développement avancé de l'intelligence artificielle (IA), notamment en adoptant un projet de loi du Sénat qui interdirait purement et simplement la superintelligence.
Jacob Coxon a démissionné le 9 septembre et a déclaré qu'Anthropic et OpenAI jouaient tous deux avec des vies humaines.
Pourquoi la démission du chercheur anthropique a atteint Capitol Hill
Plus de 20 législateurs ont répondu au fil de discussion, la plupart appelant à une nouvelle législation sur l'IA. Le sénateur Bernie Sanders a déclaré qu'il présenterait une législation interdisant la superintelligence et suspendant le développement de l'IA.
BeInCrypto a rapporté que plus tôt ce mois-ci, Sanders et le représentant Greg Casar avaient proposé la « Loi sur l'interdiction de la superintelligence artificielle ». Le projet de loi interdirait définitivement le développement et le déploiement d’IA superintelligente. Cela mettrait également fin au développement avancé de l’IA jusqu’à ce qu’un régulateur fédéral fixe des normes de sécurité.
Pendant ce temps, Casar a également qualifié la situation d'urgence et a demandé des auditions au Congrès. La représentante Lori Trahan a rappelé aux législateurs sa loi bipartite FRONTIER, introduite en juillet avec le représentant Jay Obernolte.
« La loi FRONTIER établit des exigences échelonnées en fonction de la taille d'un développeur d'IA frontalier, y compris des cartes modèles, des cadres de gestion des risques, des audits indépendants, des rapports d'incidents et des évaluations continues. Elle crée également une norme nationale uniforme pour la transparence, l'audit et la déclaration des risques catastrophiques afin d'éviter une mosaïque de réglementations nationales », indique l'annonce.
Le sénateur Chris Van Hollen souhaite des garanties obligatoires et des négociations urgentes avec la Chine. Représentant. Ted Lieu a pressé les dirigeants républicains de faire avancer le projet de loi AI Kill Switch qu'il a présenté cette année.
La représentante républicaine Anna Paulina Luna a rompu avec le schéma partisan et a demandé une session spéciale du Congrès sur l'IA.
Suivez-nous sur X pour recevoir les dernières nouvelles au fur et à mesure
Jacob Coxon dit que les laboratoires veulent les règles
En attendant, la pression n’est pas seulement politique. Les entreprises d’IA plaident également en faveur d’une réglementation. Coxon a déclaré à CNN que les dirigeants qui demandent une réglementation au Congrès sont sincères. Cependant, il a fait valoir qu’aucun d’entre eux ne fait suffisamment confiance à ses rivaux pour ralentir en premier.
« Ces gens sont également tout à fait authentiques lorsqu'ils supplient d'être réglementés… ils se retrouvent dans ce scénario où ils sont obligés de se précipiter vers la construction d'une technologie mortelle », a-t-il déclaré.
Anthropic a déclaré séparément dans un article de septembre que l'industrie bénéficierait d'un mécanisme légal et vérifiable pour un rythme coordonné.
Où commence le risque d’extinction
Le rythme n’a d’importance qu’en raison de ce que Coxon pense être la prochaine étape. Il a expliqué que si une IA est confrontée au problème de la recherche sur l’IA, elle commence à s’améliorer.
Il a souligné mardi que les systèmes d'IA d'OpenAI auraient résolu un problème du millénaire de manière purement autonome.
Ce qui fait peur, dit-il, c’est la même méthode visant l’IA elle-même. Les modèles améliorent les modèles sans intervention humaine, ce que Coxon appelle une « explosion de l’intelligence ».
« À l'heure actuelle, il n'y a aucun risque d'extinction. Avec les modèles actuels, le pire qu'ils puissent faire est peut-être de pirater quelque chose, ce qui pourrait causer beaucoup de dégâts aux infrastructures… ils ne sont pas assez intelligents pour nous déjouer au point de conduire à l'extinction », a-t-il déclaré.
Cependant, Coxon a averti que la même volonté indépendante, associée à des capacités bien plus grandes, pourrait causer des ravages extrêmes. Il a nommé le piratage des infrastructures critiques et la construction d’armes biologiques de niveau d’extinction.
Abonnez-vous à notre chaîne YouTube pour voir les dirigeants et les journalistes fournir des avis d'experts
L'article Pourquoi une sortie anthropique pousse le Congrès à parler de suspendre l'IA apparaît en premier sur BeInCrypto.
Voir l’article original en anglais
