OpenAI, la société qui a créé le modèle de langage populaire ChatGPT, est confrontée à des défis en matière de conformité légale et d'exactitude des données. Ce problème a incité NOYB – le Centre européen pour les droits numériques, une organisation à but non lucratif basée à Vienne, en Autriche, à déposer une plainte contre OpenAI auprès de l'autorité autrichienne de protection des données (DPA).
En effet, la collecte de données par OpenAI a suscité des inquiétudes parmi les organismes de réglementation et les défenseurs de la vie privée. Cette décision de NOYB pourrait potentiellement déclencher une conversation plus large autour de l’utilisation éthique des données dans la technologie.
Les problèmes de données d'OpenAI révèlent les défis éthiques de l'IA
Le cœur de la plainte réside dans les récents aveux d'OpenAI concernant les limites de ChatGPT en matière de traitement des données. Selon OpenAI, le modèle d’IA est incapable de vérifier l’exactitude des informations qu’il génère sur les individus. De plus, il ne peut pas non plus divulguer l’origine de ses données saisies.
Au milieu du battage médiatique croissant sur l'IA déclenché par le lancement de ChatGPT en novembre 2022, l'adoption généralisée de l'outil a révélé des vulnérabilités critiques. ChatGPT fonctionne en prédisant les réponses probables aux invites des utilisateurs sans mécanisme inhérent pour garantir l'exactitude factuelle.
Cela a conduit à des cas où l'IA « hallucine » les données, fabriquant des réponses qui peuvent être trompeuses ou totalement fausses. Même si de telles inexactitudes peuvent être sans conséquence dans certains contextes, elles présentent des risques importants lorsqu’elles impliquent des données personnelles.
Lire la suite : Comment créer votre chatbot IA personnel à l'aide de l'API ChatGPT
Le Règlement général sur la protection des données (RGPD) de l'Union européenne impose l'exactitude des données personnelles et accorde aux individus le droit d'accéder et de rectifier les informations incorrectes les concernant. Les capacités actuelles d'OpenAI ne répondent pas à ces exigences légales, déclenchant un débat sur les implications éthiques de l'IA dans le traitement des données sensibles.
Maartje de Graaf, avocat spécialisé en protection des données chez noyb, souligne la gravité de la situation.
« Il est clair que les entreprises ne sont actuellement pas en mesure de faire en sorte que les chatbots comme ChatGPT soient conformes au droit de l'UE lorsqu'ils traitent des données sur des individus. Si un système ne peut pas produire des résultats précis et transparents, il ne peut pas être utilisé pour générer des données sur les individus. C'est la technologie qui doit respecter les exigences légales, et non l'inverse », explique de Graaf.
Les problèmes s’étendent au-delà des obstacles techniques et s’étendent à des défis réglementaires plus larges. Depuis leur création, les outils d’IA générative, dont ChatGPT, ont fait l’objet d’un examen minutieux de la part des organismes européens de surveillance de la vie privée.
La DPA italienne, par exemple, a imposé des restrictions sur le traitement des données par ChatGPT début 2023, invoquant des inexactitudes.
Cela a été suivi d’un effort coordonné de la part du Comité européen de la protection des données pour évaluer et atténuer les risques associés à ces plateformes d’IA.
Le moment choisi pour ces contestations judiciaires est particulièrement remarquable. Parallèlement, OpenAI était en discussion pour former une alliance stratégique avec Worldcoin, un projet cofondé par Sam Altman, qui dirige également OpenAI.
Lire la suite : 11 meilleures extensions Chrome ChatGPT à découvrir en 2024
Cependant, la collaboration potentielle d'OpenAI avec Worldcoin pourrait introduire des niveaux supplémentaires de dilemmes juridiques et éthiques. L'approche de Worldcoin en matière d'utilisation des données biométriques recoupe les défis d'OpenAI pour garantir la confidentialité et l'exactitude des données.
De plus, Worldcoin a fait l'objet d'un examen minutieux de la part des autorités judiciaires du monde entier, notamment du Kenya, de l'Espagne et de l'Argentine, concernant sa collecte de données. Par conséquent, cette synergie pourrait soit ouvrir la voie à des utilisations technologiques innovantes, soit créer un précédent pour des interventions réglementaires accrues.
Clause de non-responsabilité
Conformément aux directives du Trust Project, BeInCrypto s'engage à fournir des rapports impartiaux et transparents. Cet article de presse vise à fournir des informations précises et actuelles. Il est toutefois conseillé aux lecteurs de vérifier les faits de manière indépendante et de consulter un professionnel avant de prendre une décision basée sur ce contenu. Veuillez noter que nos conditions générales, notre politique de confidentialité et nos clauses de non-responsabilité ont été mises à jour.
Voir l’article original en anglais
