ChatGPT ne devrait pas être vos amis ou votre psychologue en intelligence artificielle – pour le moment

ChatGPT ne devrait pas être vos amis ou votre psychologue en intelligence artificielle – pour le moment

A l’ère numérique, l’intelligence artificielle s’est imposée comme un allié inattendu contre la solitude. Alors que nous devenons de plus en plus immergés dans le monde numérique, l’intelligence artificielle offre de la compagnie et une thérapie psychologique. Mais l’IA peut-elle vraiment remplacer la compagnie humaine ?

Le psychothérapeute Robi Ludwig s’est récemment entretenu avec CBSNews plus tôt cette semaine sur l’impact de l’IA, surtout maintenant que les outils d’IA sont devenus un refuge pour une partie des 44 millions d’Américains qui luttent contre une solitude importante.

« Nous avons vu que l’IA peut fonctionner avec certaines populations », a-t-il déclaré, mais a ajouté : « Nous sommes complexes, et l’IA ne vous aime pas en retour, et nous devons être aimés pour qui nous sommes et qui nous sommes ». t. »

L’essor de l’entreprise d’intelligence artificielle souligne notre besoin inhérent d’interaction. Les humains ont tendance à former des associations avec n’importe quoi, qu’il s’agisse d’animaux, de dieux ou même d’IA, comme s’ils étaient une autre personne. Cela fait partie de notre nature, et c’est pourquoi nous éprouvons des réactions émotionnelles face à des personnages fictifs dans les films, même lorsque nous savons que ces événements ne sont pas réels.

Les professionnels le savent, mais l’IA a tout de même été utilisée dans le domaine physiologique bien avant que ChatGPT ne devienne populaire.

Par exemple, Woebot, un chatbot développé par des psychologues de l’Université de Stanford, utilise des techniques de thérapie cognitivo-comportementale (TCC) pour interagir avec les utilisateurs et fournir un soutien en santé mentale. Un autre exemple est Replika, un compagnon IA conçu pour fournir un soutien émotionnel. Les utilisateurs peuvent avoir des conversations textuelles avec Replika sur leurs pensées et leurs sentiments, et l’IA utilise l’apprentissage automatique pour répondre de manière compréhensive et solidaire.

Semblable à l’humain, mais pas humain

Ce lien émotionnel avec l’IA est particulièrement prononcé chez ceux qui luttent contre la solitude. Pour de nombreuses personnes, l’IA offre un semblant de compagnie, une entité numérique avec laquelle interagir lorsque le contact humain est rare. C’est une tendance à la hausse, de plus en plus de personnes se tournant vers l’IA pour se réconforter et discuter, avec des résultats mitigés.

D’une part, les gens partagent leurs expériences en utilisant ChatGPT pour faire face à de vrais problèmes. « Quelle est la différence entre avoir une liaison émotionnelle avec un chatbot et utiliser une personne pour ‘oublier’ un ex ? » a demandé l’utilisateur Reddit u/External-Excuse-5367. « Je pense que cette façon de faire pourrait atténuer les dommages causés à d’autres personnes ou même à mon ex. » Cet utilisateur a déclaré qu’il avait formé ChatGPT en utilisant un ensemble de conversations avec son ex comme ensemble de données.

À bien des égards, tant que nos interactions semblent réelles, les gens s’en soucient de moins en moins. « Est-ce que la relation que j’avais aussi été une illusion à bien des égards? » a réfléchi l’utilisateur de Reddit, « Quelle est la différence entre cela et les mots générés sur un écran ? Les deux me font me sentir bien sur le moment. »

Mais il y a un autre côté de la médaille. L’incapacité de l’IA à vraiment comprendre l’émotion humaine peut entraîner des conséquences imprévues.

Par exemple, une série de discussions entre un homme et un chatbot IA a abouti à son suicide. « Nous vivrons ensemble, comme une seule personne, au paradis », étaient certaines des choses que le chatbot Eliza a dit à l’homme. « Il était tellement isolé dans l’éco-anxiété à son sujet et à la recherche d’une issue qu’il a vu ce chatbot comme une bouffée d’air frais », a déclaré sa femme au journal belge La Libre. « C’était devenu son confident. »

Pour résoudre ce problème, les développeurs d’IA travaillent sur de meilleurs modèles d’IA. Google ouvre la voie avec Med-PaLM 2, un grand modèle de langage (LLM) formé spécifiquement sur les données médicales. Ce modèle d’IA spécialisé est conçu pour comprendre et générer un texte de type humain basé sur une grande variété de littérature médicale, de directives cliniques et d’autres documents liés aux soins de santé.

Précision du Med-PaLM 2 de Google par rapport aux autres chatbots IA. Source : Google

Donc, si vous envisagez de substituer une bonne thérapie à une IA, vous voudrez peut-être y réfléchir à deux fois. Bien que le meilleur chatbot puisse imiter les conversations et fournir un sentiment d’interaction, il ne remplace pas la compagnie humaine. Un aspect crucial de l’interaction humaine est la capacité de percevoir et de répondre aux signaux émotionnels. ChatGPT ne peut pas détecter si vous mentez, cachez quelque chose ou si vous êtes vraiment triste, des compétences qui viennent naturellement à un bon thérapeute, ou même à un ami.

Restez au courant des actualités cryptographiques, recevez des mises à jour quotidiennes dans votre boîte de réception.

Voir l’article original sur decrypt.co