Les experts ont soutenu la sortie de ChatGPT Health pour les consultations de santé, malgré les risques d'hallucinations dans les réseaux de neurones. TechCrunch écrit à ce sujet.
Sina Bari, chirurgien en exercice et responsable de l'IA chez iMerit, a décrit comment son patient a consulté ChatGPT :
« Récemment, il est venu me voir après que je lui ai recommandé un médicament et m'a montré une conversation imprimée avec un chatbot. Il disait que le remède avait 45 % de chances de se développer. embolie pulmonaire«
Le Dr Bari a vérifié les sources et a découvert que les statistiques étaient tirées d'un article sur l'effet du médicament sur un sous-groupe niche de personnes atteintes de tuberculose. Ces données n'étaient pas applicables à son cas clinique.
Malgré les inexactitudes, le médecin a évalué positivement le lancement de ChatGPT Health. Selon lui, le service donne aux utilisateurs la possibilité de discuter des problèmes de santé dans un cadre plus privé.
« Je pense que c'est génial. C'est quelque chose qui se produit déjà, donc formaliser le processus pour protéger les informations des patients et mettre en place certaines mesures de sécurité rendront le processus plus efficace pour les patients », a déclaré le Dr Bari.
Les utilisateurs peuvent obtenir des recommandations plus personnalisées de ChatGPT Health en téléchargeant des dossiers de santé et en synchronisant l'application avec Apple Health et MyFitnessPal. Cette profondeur d’accès aux informations personnelles a alarmé la communauté.
« Soudain, des données médicales sont transférées d’organisations qui se conforment HIPAAaux fournisseurs qui ne le font pas. Il est intéressant de voir comment les régulateurs réagiront à cela », a déclaré Itai Schwartz, co-fondateur de MIND.
Plus de 230 millions de personnes parlent chaque semaine de leur santé à ChatGPT. De nombreuses personnes ont arrêté de rechercher leurs symptômes sur Google et ont choisi un chatbot comme source d’informations.
« Il s'agit de l'un des cas d'utilisation les plus importants de ChatGPT. Il est donc logique qu'ils veuillent créer une version plus privée, sécurisée et optimisée du chatbot pour les problèmes de santé », a souligné Schwartz.
Le problème des hallucinations
Le principal problème des chatbots reste les « hallucinations », particulièrement critiques dans le secteur de la santé. Les recherches de Vectara ont montré que GPT-5 d'OpenAI « hallucine » plus souvent que ses concurrents de Google et Anthropic.
Cependant, Nigam Shah, professeur de médecine à l’université de Stanford, considère ces préoccupations comme secondaires. Selon le médecin, le vrai problème du système est la difficulté d’accéder aux médecins, et non le risque de recevoir des conseils erronés de ChatGPT.
« À l'heure actuelle, si vous vous adressez à un système de santé et souhaitez consulter un médecin de premier recours, vous devrez attendre trois à six mois. Si vous avez le choix : attendre six mois et consulter un vrai spécialiste, ou parler immédiatement à quelqu'un qui peut faire quelque chose pour vous, que choisiriez-vous ? » – il a noté.
Les tâches administratives d'un médecin peuvent prendre environ la moitié du temps, réduisant considérablement le nombre de rendez-vous. L'automatisation de ces processus permettra aux spécialistes d'accorder davantage d'attention aux patients.
Le Dr Shah dirige une équipe à Stanford qui développe ChatEHR, un logiciel qui permet aux médecins d'interagir de manière intelligente et efficace avec les dossiers de santé électroniques des patients.
« En le rendant plus convivial, les médecins peuvent passer moins de temps à rechercher les informations dont ils ont besoin », a déclaré le Dr Sneha Jain, premier testeur de ChatEHR.
Rappelons qu'en janvier, Anthropic a annoncé la sortie de Claude for Healthcare, un ensemble d'outils destinés aux prestataires de soins et aux patients.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
