Un projet de loi a été déposé au Congrès américain Loi sur l'IA Kill Switchobliger les grands développeurs à mettre en œuvre des mécanismes d’arrêt d’urgence pour les systèmes d’intelligence artificielle. Le document a été présenté par les membres du Congrès Ted Lieu et Nathaniel Moran.
Selon l'initiative, les entreprises doivent offrir la possibilité de ralentir, de mettre en pause ou de désactiver complètement les modèles. La loi couvrira les organisations dont les revenus annuels en IA dépassent 500 millions de dollars ou celles dont les coûts de puissance de calcul dépassent 100 millions de dollars.
Les principales exigences du projet de loi :
- la possibilité d'arrêter instantanément les interférences et de bloquer l'accès des utilisateurs ;
- notification obligatoire des incidents aux autorités dans un délai de 15 jours ;
- le droit du Département de la Sécurité intérieure d'exiger la fermeture des systèmes en accord avec les services de renseignement et le Département du Commerce.
Les raisons d'un arrêt forcé peuvent inclure la perte de contrôle du modèle, la dissimulation de ses capacités à la surveillance, ainsi que des incidents ayant entraîné la mort de plus de 10 personnes ou des dommages dépassant 100 millions de dollars.
Les violations de la réglementation entraînent des amendes importantes : jusqu'à 2 millions de dollars par jour pour les violations générales et jusqu'à 20 millions de dollars par jour pour le non-respect d'un ordre de fermeture d'urgence. Les entreprises auront 48 heures pour faire appel de cette ordonnance.
Le projet de loi a été présenté quelques jours après qu'OpenAI a confirmé que l'attaque contre l'infrastructure de Hugging Face avait été menée par ses propres modèles d'IA lors d'un test interne.
Rappelons qu'en juillet, le fondateur de la startup Hebbia, George Sivulka, était arrivé à la conclusion que les entreprises n'avaient pas réussi à gérer les agents IA.
Voir l’article original en russe
