Elon Musk et Vitalik Buterin ont exprimé leur soutien au projet de loi SB 1047, très discuté en Californie, qui vise à réglementer l'intelligence artificielle.
C'est une décision difficile et cela va contrarier certaines personnes, mais, tout bien considéré, je pense que la Californie devrait probablement adopter le projet de loi SB 1047 sur la sécurité de l'IA.
Depuis plus de 20 ans, je milite en faveur de la réglementation de l’IA, tout comme nous réglementons tout produit/technologie qui présente un risque potentiel…
— Elon Musk (@elonmusk) 26 août 2024
« Depuis plus de 20 ans, je milite en faveur d’une réglementation de l’IA, tout comme nous réglementons tout produit/technologie qui présente un risque potentiel pour la société », a noté le milliardaire.
En février, le projet de loi Safe and Trusted Innovation for Advanced Artificial Intelligence, connu sous le nom de SB 1047, a été proposé. S'il est adopté, il obligerait les développeurs à mettre en œuvre des protocoles de sécurité pour éviter des pertes massives ou des cyberattaques majeures, ainsi qu'à « tuer » un modèle d'IA.
Le projet de loi prévoit également des audits annuels indépendants de la sécurité de l'IA. Les règles ne s'appliqueraient qu'aux plus gros modèles, qui coûtent au moins 100 millions de dollars et nécessitent 10^26 FLOPS pour s'entraîner. Elles concerneraient principalement des géants comme OpenAI, Google et Microsoft.
Les législateurs californiens ont ensuite apporté un certain nombre de modifications, visant principalement à réduire le pouvoir du gouvernement de l'État de demander des comptes aux laboratoires d'IA. Cependant, le document tient toujours les développeurs responsables des dangers de leurs modèles.
Le message d'Elon Musk a été commenté par Vitalik Buterin, qui a souligné que l'objectif du document est de rendre obligatoire la réalisation de tests de sécurité avant le lancement d'une intelligence artificielle qui « pourrait être dangereuse pour le monde ».
Quelle est la meilleure preuve que le projet de loi sera utilisé pour s'attaquer aux poids libres ?
Je sais que les versions précédentes du projet de loi comportaient une exigence de fermeture totale qui était incompatible avec les pondérations ouvertes, mais elle a été supprimée. Et je sais que certaines personnes chargées de la sécurité de l'IA ont exprimé leur soutien à…
— vitalik.eth (@VitalikButerin) 27 août 2024
Anthropic, une start-up spécialisée dans l'intelligence artificielle, a soutenu le projet de loi SB 1047, soulignant que « les avantages du projet de loi dépassent probablement les coûts ». Les modifications apportées au document original ont été apportées, en partie, à la demande de l'entreprise.
Critique
OpenAI s'est opposé au projet de loi SB 1047, affirmant que celui-ci chasserait les talents de Californie et étoufferait l'innovation.
« La révolution de l'IA ne fait que commencer, et le statut unique de la Californie en tant que leader mondial dans ce domaine souligne le dynamisme économique de l'État. Le projet de loi SB 1047 menacerait cette croissance, ralentirait le rythme de l'innovation et forcerait les développeurs et entrepreneurs de classe mondiale de Californie à quitter l'État pour chercher de nouvelles opportunités ailleurs », a déclaré Jason Kwon, directeur de la stratégie chez OpenAI.
Guillaume Verdon, fondateur de la startup Extropic et ancien développeur de Google, a noté que « l’IA peut être puissante, mais un gouvernement autoritaire avec un contrôle fantôme sur une IA puissante est plus effrayant ».
« Cela crée un terrible précédent au niveau national et ouvrira la porte à la guerre juridique du gouvernement contre les entreprises qui ne proposent pas de portes dérobées au LLM », a ajouté l'expert.
Il a comparé la situation à la récente arrestation du fondateur de Telegram, Pavel Durov, et aux conséquences pour la liberté d’expression et la décentralisation.
Le document a également été critiqué par Google, Meta, d'éminents experts et d'autres. L'entreprise de Zuckerberg estimait que le projet de loi risquait de rendre la région défavorable au développement et au lancement de l'IA.
Quand est-ce que cela sera accepté ?
À la mi-août, le projet de loi a été adopté par le Comité des crédits de Californie. Il est maintenant soumis au vote final de l'Assemblée de Californie. S'il est adopté, il passera ensuite au Sénat de l'État, où il appartiendra au gouverneur de le signer, puis d'y opposer son veto.
Rappelons qu’en août, une loi de grande envergure visant à réguler l’IA dans l’UE est entrée en vigueur.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-la et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez au courant de l'actualité du secteur du bitcoin !