OpenAI lance ChatGPT Health avec connexion aux dossiers médicaux et soulève des problèmes de confidentialité

Mercredi, OpenAI a annoncé une nouvelle fonctionnalité dans ChatGPT qui permet aux utilisateurs de connecter des dossiers médicaux et des données de bien-être, soulevant des inquiétudes parmi certains experts et groupes de défense concernant l'utilisation des données personnelles.

Le géant de l'IA basé à San Francisco, en Californie, a déclaré que l'outil, appelé ChatGPT Health, développé avec des médecins, est conçu pour soutenir les soins plutôt que pour diagnostiquer ou traiter les maladies. L’entreprise le positionne comme un moyen d’aider les utilisateurs à mieux comprendre leur santé.

Pour de nombreux utilisateurs, ChatGPT est déjà devenu la plateforme incontournable pour les questions de santé et de santé mentale.

OpenAI a dit Décrypter que ChatGPT Health ne partage que des « informations factuelles sur la santé » générales et ne fournit pas de « conseils médicaux personnalisés ou dangereux ».

Pour les questions à risque plus élevé, vous fournirez des informations de haut niveau, soulignerez les risques potentiels et encouragerez les gens à parler à un pharmacien ou à un professionnel de la santé qui connaît leur situation spécifique.

Cette décision intervient peu de temps après que la société a annoncé en octobre que plus d'un million d'utilisateurs discutaient chaque semaine du suicide avec le chatbot. Cela représentait à l’époque environ 0,15 % de tous les utilisateurs de ChatGPT.

Bien que ces chiffres représentent une partie relativement faible de la population totale des utilisateurs, la plupart devront répondre à des problèmes de confidentialité et de sécurité des données, affirment les experts.

« Même lorsque les entreprises prétendent disposer de garanties de confidentialité, les consommateurs manquent souvent de consentement significatif, de transparence ou de contrôle sur la manière dont leurs données sont utilisées, conservées ou réutilisées », a-t-il déclaré. Décrypter JB Branch, défenseur de la responsabilité des grandes technologies chez Public Citizen. « Les données de santé sont exceptionnellement sensibles, et sans limites juridiques claires et sans surveillance exécutoire, les mesures de protection autorégulées ne suffisent tout simplement pas à protéger les personnes contre une utilisation abusive, une réidentification ou des préjudices ultérieurs. »

OpenAI a noté dans sa déclaration que les données de santé dans ChatGPT Health sont cryptées par défaut, stockées séparément des autres discussions et ne sont pas utilisées pour entraîner ses modèles fondamentaux.

Selon Andrew Crawford, conseiller politique principal au Centre pour la démocratie et la technologie, de nombreux utilisateurs supposent à tort que les données de santé sont protégées en fonction de leur sensibilité, plutôt qu'en fonction de leur propriétaire.

« Lorsque vos données de santé sont conservées par votre médecin ou votre compagnie d'assurance, les règles de confidentialité HIPAA s'appliquent », a déclaré Crawford. Décrypter. « Il n'en va pas de même pour les entités non couvertes par la HIPAA, telles que les développeurs d'applications de santé, les trackers de santé portables ou les sociétés d'IA. »

Crawford a ajouté que le lancement de ChatGPT Health souligne également à quel point le fardeau de la responsabilité incombe aux consommateurs en l'absence d'une loi fédérale complète sur la confidentialité réglementant les données de santé entre les mains des entreprises technologiques.

« Il est regrettable que nos lois et réglementations fédérales actuelles imposent aux consommateurs individuels le fardeau de se demander s'ils sont à l'aise avec la façon dont la technologie qu'ils utilisent quotidiennement traite et partage leurs données », a-t-il déclaré.

OpenAI a déclaré que ChatGPT Health serait d'abord déployé auprès d'un petit groupe d'utilisateurs.

La liste d'attente est ouverte aux utilisateurs de ChatGPT en dehors de l'UE et du Royaume-Uni, avec un accès plus large prévu dans les semaines à venir sur le Web et iOS. L'annonce d'OpenAI ne faisait aucune mention des appareils Google ou Android.