En résumé
- La startup britannique Etcembly a utilisé l’IA générative pour créer un puissant traitement contre le cancer.
- L’IA peut accélérer les progrès médicaux, mais les risques doivent être évités en la mettant en œuvre sans validation humaine.
- Il faut être prudent lorsqu’on suit les conseils de l’IA dans le secteur de la santé : une étude montre des erreurs et des contradictions dans les plans de traitement du cancer générés par ChatGPT.
L’intelligence artificielle (IA) a un énorme potentiel pour accélérer les progrès en matière de santé et de médecine, mais elle comporte également des risques si elle n’est pas appliquée avec soin, comme le montrent les résultats contradictoires d’études récentes sur le traitement du cancer.
D’une part, la start-up britannique de biotechnologie Etcembly vient d’annoncer qu’elle était capable d’utiliser l’IA générative pour concevoir une nouvelle immunothérapie ciblant les cancers difficiles à traiter. C’est la première fois qu’un traitement d’immunothérapie est développé grâce à l’IA, et Etcembly, membre du programme Inception de Nvidia, a pu créer cette nouvelle immunothérapie en seulement 11 mois, soit deux fois plus vite que les méthodes conventionnelles.
Le nouveau traitement d’Etcembly, appelé ETC-101, est un activateur bispécifique des lymphocytes T, ce qui signifie qu’il cible une protéine présente dans de nombreux cancers et non dans les tissus sains. Il démontre également une affinité picomolaire et est donc jusqu’à un million de fois plus puissant que les récepteurs naturels des lymphocytes T.
La société affirme également disposer d’un solide portefeuille d’autres immunothérapies contre le cancer et les maladies auto-immunes conçues par son moteur d’IA, appelé EMLy.
« Etcembly est né de notre volonté de réunir deux concepts à la pointe du courant scientifique : les TCR et l’IA générative, pour concevoir la prochaine génération d’immunothérapies », a déclaré la PDG Michelle Teng. « Je suis ravi de mettre en avant ces atouts afin que nous puissions réaliser l’avenir des thérapies TCR et proposer des traitements transformateurs aux patients.
Des chercheurs ont déjà montré que l’IA pouvait aider prédire les résultats des traitements expérimentaux contre le cancer, améliorer techniques de détection du cancer, découvrir de nouveaux médicaments sénolytiques, détecter signes de la maladie de Parkinson et saisir interactions protéiques pour concevoir de nouveaux composés.
Les dangers de la mise en œuvre d’une IA non validée
En revanche, des risques importants demeurent. Certaines personnes commencent à utiliser les conseils des chatbots IA au lieu de suivre les instructions des médecins et des thérapeutes, même une personne lui a pris la vie après avoir suivi les conseils néfastes d’un chatbot.
Les scientifiques soutiennent également l’idée selon laquelle les gens ne devraient pas suivre aveuglément les conseils de l’IA. Une nouvelle étude publiée par JAMA Oncology suggère que ChatGPT présente des limites critiques lors de la génération de plans de traitement du cancer, soulignant les risques si les recommandations de l’IA sont mises en œuvre cliniquement sans validation approfondie.
Des chercheurs du Brigham and Women’s Hospital de Boston ont découvert que les recommandations de traitement de ChatGPT pour divers cas de cancer contenaient de nombreuses erreurs factuelles et informations contradictoires.
Sur 104 requêtes, environ un tiers des réponses ChatGPT contenaient des détails incorrects, selon l’étude publiée dans JAMA Oncology.
« Toutes les réponses avec une recommandation incluaient au moins 1 traitement concordant au NCCN, mais 35 de 102 (34,3%) de ces réponses recommandaient également 1 ou plusieurs traitements non concordants », selon l’étude.
Même si 98 % des plans comprenaient des lignes directrices précises, presque tous mélangeaient du bon et du mauvais contenu.
« Nous avons été surpris de constater à quel point des informations incorrectes étaient mélangées à des données précises, rendant les erreurs difficiles à identifier, même pour les spécialistes », a déclaré la co-auteure, la Dre Danielle Bitterman.
Plus précisément, l’étude a révélé que 12,5 % des recommandations de traitement ChatGPT étaient complètement hallucinatoires ou fabriquées par le robot sans aucune précision factuelle. L’IA a eu des problèmes particuliers pour générer des thérapies localisées fiables pour les cancers avancés et pour l’utilisation appropriée des médicaments d’immunothérapie.
OpenAI indique que ChatGPT n’est pas destiné à fournir des conseils médicaux ou des services de diagnostic pour des problèmes de santé graves. Néanmoins, la tendance du modèle à répondre avec confiance à des informations contradictoires ou fausses augmente les risques s’il est mis en œuvre cliniquement sans validation rigoureuse.
Manger du poison pour fourmis est évidemment une mauvaise idée, même si l’outil d’IA de votre supermarché vous le conseille, mais lorsqu’il s’agit de termes académiques complexes et de conseils sensibles, vous devriez également en parler à un humain.
Avec une validation minutieuse, les outils basés sur l’IA pourraient rapidement débloquer de nouveaux traitements salvateurs et éviter des faux pas dangereux. Mais pour l’instant, il est sage que les patients considèrent les conseils médicaux générés par l’IA avec une bonne dose de scepticisme.