La loi sur l’IA récemment adoptée en Europe par le Parlement ne considère pas l’IA générative, telle que ChatGPT, comme présentant un risque élevé, mais elle devra répondre aux exigences de transparence des droits d’auteur. Ainsi, vous devez divulguer que le contenu a été généré par l’IA, concevoir le modèle pour l’empêcher de générer du contenu illégal et publier des résumés des données protégées par le droit d’auteur utilisées pour la formation.
Europe, IA et droit d’auteur
Les modèles d’IA à usage général qui ont un impact élevé et pourraient présenter un risque systémique, comme le modèle d’IA plus avancé GPT-4, devront faire l’objet d’évaluations approfondies et signaler tout incident grave à la Commission. . De même, les contenus générés ou modifiés à l’aide de l’IA, tels que les images, les sons ou les vidéos (par exemple les « deep fakes »), devront être clairement étiquetés comme tels.
LOI EUROPÉENNE SUR L’INTELLIGENCE ARTIFICIELLE : UNE PROPOSITION HISTORIQUE
Le Parlement européen a approuvé la loi sur l’intelligence artificielle dans le but de garantir la sécurité et le respect des droits fondamentaux, tout en favorisant l’innovation. Le règlement, convenu lors des négociations avec les États membres en décembre 2023, a été soutenu par le Parlement européen avec 523 voix pour, 46 contre et 49 abstentions. L’Europe dispose ainsi de la première loi globale sur l’intelligence artificielle (IA) au monde.
Le Parlement européen a indiqué que sa priorité était de garantir que les systèmes d’IA utilisés dans l’UE soient sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement. Les systèmes d’IA doivent être supervisés par des personnes, plutôt que par des automatisations, pour éviter des résultats préjudiciables, affirme l’organisme susmentionné. Le Parlement européen souhaite établir une définition uniforme et technologiquement neutre de l’IA qui puisse être appliquée aux futurs systèmes d’IA.
Applications interdites
La loi interdit les applications d’intelligence artificielle qui violent les droits des citoyens. Tels que les systèmes de catégorisation biométrique basés sur des caractéristiques sensibles et la capture aveugle d’images faciales provenant d’Internet ou d’enregistrements de caméras de surveillance pour créer des bases de données de reconnaissance faciale. La reconnaissance des émotions est également interdite sur le lieu de travail et dans les écoles. Systèmes de notation citoyenne, police prédictive (lorsque basée uniquement sur le profil d’une personne ou l’évaluation de ses caractéristiques). Ainsi que l’IA qui manipule le comportement humain ou exploite les vulnérabilités des personnes.
TÂCHES DE L’OFFICE EUROPÉEN DE L’INTELLIGENCE ARTIFICIELLE
Exemptions des forces de sécurité
L’utilisation de systèmes d’identification biométrique par les forces de sécurité est a priori interdite, sauf dans des situations bien précises et bien définies. Les systèmes d’identification biométrique « en temps réel » ne peuvent être utilisés que si des garanties strictes sont respectées. Son utilisation est limitée à une durée et un lieu déterminés et fait l’objet d’une autorisation judiciaire ou administrative préalable. Par exemple, ces cas peuvent inclure la recherche sélective d’une personne disparue ou la prévention d’un attentat terroriste. L’utilisation de ces systèmes a posteriori est considérée comme une utilisation à haut risque, qui nécessite une autorisation judiciaire car liée à une infraction pénale.
Obligations pour les systèmes à haut risque
La loi prévoit des obligations claires pour les autres systèmes d’IA à haut risque, car ils peuvent être extrêmement nocifs pour la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie et l’État de droit. Quelques exemples d’utilisations à haut risque de l’IA sont les infrastructures critiques, l’éducation et la formation professionnelle, l’emploi, les services publics et privés essentiels (santé ou banque). Ainsi que certains systèmes de forces de sécurité, de gestion des migrations et des douanes, de justice et de processus démocratiques, comme la capacité d’influencer les élections.
De tels systèmes doivent évaluer et réduire les risques, conserver des enregistrements d’utilisation, être transparents et précis et faire l’objet d’une surveillance humaine. Les citoyens auront le droit de déposer des plaintes concernant les systèmes d’IA et de recevoir des explications sur les décisions basées sur ceux-ci qui affectent leurs droits.
Droits fondamentaux
Une évaluation de l’impact sur les droits fondamentaux est prévue avant que ses promoteurs ne mettent sur le marché un système d’intelligence artificielle à haut risque. Il prévoit également une plus grande transparence concernant l’utilisation de systèmes d’IA à haut risque. Les systèmes d’IA à usage général et les modèles sur lesquels ils sont basés doivent répondre à certaines exigences de transparence, respecter la loi européenne sur le droit d’auteur et publier des résumés détaillés du contenu utilisé pour entraîner leurs modèles.
Mesures de soutien aux PME et prochaines étapes
La loi stipule que des espaces d’essais contrôlés et d’essais dans des conditions réelles doivent être mis à la disposition des PME et des entreprises émergentes au niveau national afin qu’elles puissent développer et former l’IA avant sa commercialisation. Le règlement est encore soumis à un dernier contrôle juridico-linguistique. Son approbation finale (par le biais de la procédure dite de correction d’erreurs) est prévue avant la fin de la législature. La loi doit également être formellement adoptée par le Conseil.
Le règlement entrera en vigueur vingt jours après sa publication au Journal Officiel et sera pleinement applicable 24 mois après son entrée en vigueur, à l’exception : des interdictions de pratiques (elles s’appliqueront six mois après la date d’entrée en vigueur) . Les codes de bonnes pratiques (neuf mois plus tard). Normes d’IA à usage général, y compris la gouvernance (douze mois plus tard) ; et obligations pour les systèmes à haut risque (trente-six mois plus tard).
Voir l’article original en espagnol
