L’Union européenne (UE) mène la course à la réglementation de l’intelligence artificielle (IA). Mettant fin à trois jours de négociations, le Conseil européen et le Parlement européen sont parvenus plus tôt dans la journée à un accord provisoire sur ce qui est en passe de devenir la première réglementation globale de l’IA au monde.
Carme Artigas, la secrétaire d’État espagnole à la numérisation et à l’intelligence artificielle, a qualifié cet accord de « réalisation historique » dans un communiqué de presse. Artigas a déclaré que les règles établissaient un « équilibre extrêmement délicat » entre encourager l’innovation et l’adoption d’IA sûres et dignes de confiance dans l’UE et protéger les « droits fondamentaux » des citoyens.
Le projet de loi – la loi sur l’intelligence artificielle – a été proposé pour la première fois par la Commission européenne en avril 2021. Le Parlement et les États membres de l’UE voteront pour approuver le projet de loi l’année prochaine, mais les règles n’entreront en vigueur qu’en 2025.
Une approche basée sur les risques pour réglementer l’IA
La loi sur l’IA est conçue selon une approche basée sur le risque : plus le risque posé par un système d’IA est élevé, plus les règles sont strictes. Pour y parvenir, le règlement classera les IA afin d’identifier celles qui présentent un « risque élevé ».
Les IA jugées non menaçantes et à faible risque seront soumises à des « obligations de transparence très légères ». Par exemple, ces systèmes d’IA devront divulguer que leur contenu est généré par l’IA pour permettre aux utilisateurs de prendre des décisions éclairées.
Pour les IA à haut risque, la législation ajoutera un certain nombre d’obligations et d’exigences, notamment :
Surveillance humaine : La loi impose une approche centrée sur l’humain, mettant l’accent sur des mécanismes de surveillance humaine clairs et efficaces des systèmes d’IA à haut risque. Cela signifie avoir les humains au courant, surveiller et superviser activement le fonctionnement du système d’IA. Leur rôle consiste notamment à garantir que le système fonctionne comme prévu, à identifier et à traiter les préjudices potentiels ou les conséquences imprévues et, en fin de compte, à assumer la responsabilité de ses décisions et actions.
Transparence et explicabilité : Démystifier le fonctionnement interne des systèmes d’IA à haut risque est crucial pour instaurer la confiance et garantir la responsabilité. Les développeurs doivent fournir des informations claires et accessibles sur la manière dont leurs systèmes prennent des décisions. Cela inclut des détails sur les algorithmes sous-jacents, les données de formation et les biais potentiels susceptibles d’influencer les résultats du système.
Gouvernance des données : La loi sur l’IA met l’accent sur des pratiques responsables en matière de données, dans le but de prévenir la discrimination, les préjugés et les violations de la vie privée. Les développeurs doivent s’assurer que les données utilisées pour former et exploiter les systèmes d’IA à haut risque sont exactes, complètes et représentatives. Les principes de minimisation des données sont cruciaux, car ils collectent uniquement les informations nécessaires au fonctionnement du système et minimisent le risque d’utilisation abusive ou de violations. En outre, les individus doivent disposer de droits clairs pour accéder, rectifier et effacer les données utilisées dans les systèmes d’IA, leur permettant ainsi de contrôler leurs informations et de garantir leur utilisation éthique.
Gestion des risques: L’identification et l’atténuation proactives des risques deviendront une exigence clé pour les IA à haut risque. Les développeurs doivent mettre en œuvre des cadres de gestion des risques robustes qui évaluent systématiquement les dommages potentiels, les vulnérabilités et les conséquences imprévues de leurs systèmes.
Voir l’article original en anglais
