L’Union européenne (UE) a réalisé une proposition historique en approuvant la première loi réglementant l’intelligence artificielle dans le monde. Le Conseil et le Parlement européen ont convenu des premières règles mondiales en matière d’IA afin de garantir que les systèmes d’IA commercialisés sur le marché européen et utilisés dans l’UE sont sûrs et respectent les droits et valeurs fondamentaux. de l’UE. La proposition vise également à stimuler l’investissement et l’innovation dans l’IA en Europe.
Loi européenne sur l’intelligence artificielle
L’IA comme source d’inconfort dans les salles de classe des universités espagnoles
Carme Artigas, secrétaire d’État espagnole à la numérisation et à l’intelligence artificielle, a qualifié l’approbation de la première loi visant à réglementer l’intelligence artificielle dans le monde de réalisation historique et de grande étape pour l’avenir. «L’accord répond efficacement à un défi mondial dans un environnement technologique en évolution rapide dans un domaine clé pour l’avenir de nos sociétés et de nos économies. Et dans cet effort, nous parvenons à maintenir un équilibre extrêmement délicat : stimuler l’innovation et l’adoption de l’intelligence artificielle dans toute l’Europe, tout en respectant pleinement les droits fondamentaux de nos citoyens.
Je vais encadrer cette photo. Elle est la seule avec toute l’équipe qui m’a soutenu pour obtenir ce succès : Carlos Romero et Miguel del Valle de REPER. @eu2023es et l’équipe de @SEDIAgob avec @PilarMairal @AlbertoGago1 @Alejandrarartero8 @albertopocu et Clara Pedregosa. Énorme!!!! pic.twitter.com/jCvzPANt4g
– Carme Artigas (@carmeartigas) 10 décembre 2023
La loi sur l’IA est une initiative législative phare susceptible de favoriser le développement et l’adoption d’une IA sûre et fiable sur le marché unique de l’UE par les acteurs publics et privés. L’idée principale est de réguler l’IA en fonction de sa capacité à nuire à la société selon une approche « basée sur le risque » : plus le risque est élevé, plus les règles sont strictes.
Les médias nord-américains exigent que les entreprises d’IA paient pour le contenu
En tant que première proposition législative de ce type au monde, elle peut établir une norme mondiale pour la réglementation de l’IA dans d’autres juridictions, tout comme l’a fait le règlement général sur la protection des données RGPD, promouvant ainsi l’approche européenne de la réglementation technologique sur la scène mondiale.
Principaux éléments de l’accord provisoire
Par rapport à la proposition initiale de la Commission, les principaux éléments nouveaux de l’accord provisoire peuvent être résumés comme suit :
- Règles sur les modèles d’IA à usage général à fort impact cela pourrait entraîner un risque systémique à l’avenir, ainsi que sur les systèmes d’IA à haut risque.
- Un système de gouvernance révisé avec certains pouvoirs d’exécution au niveau de l’UE
- Extension de la liste des interdictionsmais avec la possibilité d’utiliser l’identification biométrique à distance par les forces de l’ordre dans l’espace public, sous réserve de garanties.
- Une meilleure protection des droits en exigeant que ceux qui mettent en œuvre des systèmes d’IA à haut risque effectuent une évaluation d’impact sur les droits fondamentaux avant de mettre en service un système d’IA.
Définitions et portée
L’accord de compromis aligne la définition sur l’approche proposée par l’OCDE., afin de garantir que la définition d’un système d’IA fournit des critères suffisamment clairs pour distinguer l’IA des systèmes logiciels plus simples. Il est précisé que le règlement ne s’applique pas aux domaines hors du champ d’application du droit de l’UE et ne devrait en aucun cas affecter les pouvoirs des États membres en matière de sécurité nationale ou de toute entité chargée de tâches dans ce domaine.
Le Kolokium espagnol propose une communication entre machines avec IA et blockchain
De plus, jeLa loi sur l’IA ne s’appliquera pas aux systèmes utilisés exclusivement à des fins militaires ou de défense. Le règlement ne s’appliquerait pas aux systèmes d’IA utilisés à des fins exclusives de recherche et d’innovation. ni aux personnes qui utilisent l’IA pour des raisons non professionnelles.
Classification des systèmes d’IA
Un niveau de protection horizontal, comprenant une classification à haut risque, est prévu pour garantir que les systèmes d’IA qui ne sont pas susceptibles de provoquer de graves violations des droits fondamentaux ou d’autres risques importants ne soient pas capturés. Les systèmes d’IA qui ne présentent qu’un risque limité seraient soumis à des obligations de transparence très légères. Par exemple, divulguer que le contenu a été généré par l’IA afin que les utilisateurs puissent prendre des décisions éclairées quant à son utilisation ultérieure. Un large éventail de systèmes d’IA à haut risque seront autorisés, mais soumis à un certain nombre d’exigences et d’obligations pour accéder au marché de l’UE.
Kolokium certifie les processus industriels générés avec l’IA avec la blockchain
Des changements sont inclus qui clarifient l’attribution des responsabilités et des rôles des différents acteurs de ces chaînes, en particulier les fournisseurs et les utilisateurs de systèmes d’IA. Il clarifie également la relation entre les responsabilités en vertu de la loi sur l’IA et les responsabilités qui existent déjà en vertu d’autres législations, telles que la législation européenne relative à la protection des données ou la législation sectorielle pertinente.
Risque inacceptable
Pour certaines utilisations de l’IA, le risque est jugé inacceptable et ces systèmes seront donc interdits dans l’UE. Par exemple, la manipulation cognitivo-comportementale, la suppression non sélective d’images faciales sur Internet ou d’images de vidéosurveillance sont interdites.. Reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement, notation sociale, catégorisation biométrique pour déduire des données sensibles, telles que l’orientation sexuelle ou la religion, les croyances et certains cas de police prédictive des individus.
Exceptions en matière d’application de la loi
Plusieurs modifications ont été approuvées par rapport à la proposition de la Commission concernant l’utilisation des systèmes d’IA à des fins répressives. Elle vise à refléter la nécessité de respecter la confidentialité des données opérationnelles sensibles en relation avec ses activités. Par exemple, une procédure d’urgence a été introduite pour permettre aux forces de l’ordre de déployer en urgence un outil d’IA à haut risque qui n’a pas passé avec succès la procédure d’évaluation de la conformité. Toutefois, un mécanisme spécifique a également été introduit pour garantir que les droits fondamentaux soient suffisamment protégés contre une éventuelle utilisation abusive des systèmes d’IA.
L’Espagne publiera la norme pour les voitures autonomes en 2024
En ce qui concerne la utilisation de systèmes d’identification biométrique à distance en temps réel dans les espaces publicsles objectifs sont clarifiés lorsqu’une telle utilisation est strictement nécessaire à des fins policières et pour laquelle, par conséquent, les autorités policières devraient être exceptionnellement autorisées à utiliser de tels systèmes.
Systèmes d’IA à usage général et modèles de base
De nouvelles dispositions ont été ajoutées pour tenir compte des situations dans lesquelles les systèmes d’IA peuvent être utilisés à de nombreuses fins différentes (IA à usage général) et dans lesquelles la technologie d’IA à usage général est ensuite intégrée dans un autre système à haut risque. Des règles spécifiques ont été convenues pour les modèles de base, de grands systèmes capables d’effectuer avec compétence un large éventail de tâches distinctes, telles que la génération de vidéos, de textes, d’images, la conversation dans un langage latéral, l’informatique ou la génération de code informatique. Les modèles de base doivent respecter des obligations de transparence spécifiques avant d’être commercialisés.
Questions sur l’IA générative dans le droit d’auteur
Nouvelle architecture de gouvernance
Un AI Office est créé au sein de la Commission chargé de superviser ces modèles d’IA plus avancéss, contribuer à favoriser les normes et pratiques de test et à appliquer des normes communes dans tous les États membres. Un groupe scientifique d’experts indépendants conseillera ledit AI Office. L’AI Board, qui sera composé de représentants des États membres, continuera à être une plateforme de coordination et un organe consultatif auprès de la Commission et donnera un rôle important aux États membres dans la mise en œuvre du règlement. Un forum consultatif sera créé pour les parties prenantes, telles que les représentants de l’industrie, des PME, des startups, de la société civile et du monde universitaire, afin de fournir une expertise technique au Conseil de l’IA..
Pénalités
Les amendes pour violations de la loi sur l’IA étaient fixées en pourcentage du chiffre d’affaires annuel global de l’entreprise contrevenante au cours de l’exercice précédent ou en un montant prédéterminé, selon le montant le plus élevé. Ce qui équivaudrait à 35 millions d’euros soit 7% pour violations d’applications d’IA interdites. 15 millions d’euros ou 3% pour violations des obligations de la loi IA et 7,5 millions d’euros ou 1,5% pour fourniture d’informations incorrectes.
Le pouvoir transformateur de l’IA générative dans les jeux vidéo
Toutefois, des limites plus proportionnées sont fixées aux amendes administratives pour les PME et les start-up en cas de violation des dispositions de la loi sur l’IA. Il est précisé qu’une personne physique ou morale peut déposer une plainte auprès de l’autorité de surveillance du marché compétente en cas de non-respect de la loi sur l’IA et peut s’attendre à ce qu’une telle plainte soit traitée conformément aux procédures spécifiques de cette autorité. autorité.
Transparence et protection des droits fondamentaux
Une évaluation de l’impact sur les droits fondamentaux est prévue avant que ses promoteurs ne mettent sur le marché un système d’intelligence artificielle à haut risque. Il prévoit également une plus grande transparence concernant l’utilisation de systèmes d’IA à haut risque. Certaines dispositions de la proposition de la Commission ont été modifiées pour indiquer que certains utilisateurs d’un système d’IA à haut risque qui sont des entités publiques seront également tenus de s’inscrire dans la base de données de l’UE pour les systèmes d’IA à haut risque.
Par ailleurs, les dispositions nouvellement ajoutées soulignent l’obligation pour les utilisateurs d’un système de reconnaissance des émotions d’informer les personnes physiques lorsqu’elles sont exposées à un tel système.
Mesures de soutien à l’innovation
Il a été précisé que les bacs à sable réglementaires de l’IA, censés établir un environnement contrôlé pour le développement, les tests et la validation de systèmes d’IA innovants, devraient également permettre de tester des systèmes d’IA innovants dans des conditions réelles. De plus, de nouvelles dispositions ont été ajoutées pour permettre aux systèmes d’IA d’être testés dans des conditions réelles, dans des conditions et des garanties spécifiques.
Le Royaume-Uni accueille le 1er Sommet mondial sur la sécurité de l’IA
Afin d’alléger la charge administrative des petites entreprises, l’accord intérimaire comprend une liste d’actions à prendre pour soutenir ces opérateurs et prévoit quelques dérogations limitées et clairement spécifiées.
Entrée en vigueur
L’accord provisoire établit que la loi sur l’IA devrait s’appliquer deux ans après son entrée en vigueurr, avec quelques exceptions pour des dispositions spécifiques. À cette fin, dans les semaines à venir, les travaux se poursuivront au niveau technique pour finaliser les détails de la nouvelle réglementation. La présidence présentera le texte de compromis aux représentants des États membres pour approbation une fois ces travaux terminés. Le texte intégral doit être confirmé par les deux institutions et soumis à un examen juridico-linguistique avant son adoption formelle par les colégislateurs.
Voir l’article original en espagnol
