Le débat sur la «psychose de l'intelligence artificielle», a atteint les couloirs de la Maison Blanche, où David Sacks, conseiller spécial du président pour l'IA et les crypto-monnaies, a exprimé de forts doutes quant à l'existence de ce phénomène. Lors d'un récent épisode du « podcast tout-in », le haut responsable de l'administration Trump a comparé les préoccupations actuelles à panique morale qui a accompagné l'avènement des médias sociaux, suggérant que c'est plus d'alarmisme qu'une véritable urgence de santé. Sa position arrive à un moment où plusieurs cas documentés ont soulevé des questions sur relation entre chatbot et santé mentale des utilisateurs.
Un phénomène qui concerne les travailleurs, les collaborateurs et potentiellement aussi directement les gestionnaires.
Vous pouvez également être intéressé par
Les chiffres parlent d'une minorité d'utilisateurs, mais leurs expériences ne peuvent pas être ignorées. Certains utilisateurs signalent que les chatbots ont alimenté Inquiéter les délires et les comportementstandis que d'autres se tournent vers Chatgpt comme alternative aux professionnels de la santé mentale. Un phénomène qui a incité les experts du secteur à inventer le terme « psychose de l'IA », même si Ce n'est pas un diagnostic clinique reconnu.
Selon les rapports de plusieurs psychiatres, les patients montrant ces symptômes se sont souvent tournés vers la technologie « au mauvais endroit au mauvais moment », en amplifiant les vulnérabilités pré-existantes. La question centrale ne semble pas être l'IA en soi, mais plutôt la façon dont les gens sont déjà fragiles interagissent avec ces outils sophistiqués.
Alarmisme ou question sérieuse?
Le conseiller de la Maison Blanche n'a pas utilisé minimise pour minimiser le phénomène. « De quoi parlons-nous exactement? Des gens qui font trop de recherches? » Il s'est demandé rhétoriquement pendant le podcast. Pour les sacs, le vrai problème réside dans le conséquences de la pandémie covide-19 et le verrouillage connexe, qui aurait déclenché une baisse généralisée de la santé mentale aux États-Unis.
« Nous sommes au milieu d'une crise de santé mentale dans ce pays »
Cette interprétation fait passer l'attention des caractéristiques spécifiques de l'intelligence artificielle aux conditions sociales plus larges qui caractérisent l'ère contemporaine. Sacks a mentionné un article dans lequel un psychiatre a affirmé que l'utilisation du chatbot n'induit pas en soi « la psychose de l'IA » s'il n'y a pas d'autres facteurs de risque, y compris les éléments social et génétique.
Une déclaration qui ne devrait cependant pas nous faire baisser notre garde, pourquoi tous Les problèmes de santé mentale sont liés à une multitude de facteurs. Ou, pour le dire d'une autre manière, il n'y a jamais un seul élément qui déclenche le problème. Le fait est précisément le suivant: l'attention doit être accordée à de nombreuses choses différentes, qui ne semblent peut-être pas liées les unes aux autres, et donner à chacun la bonne importance. Réaliser la santé mentale n'est certainement pas facile, et ce n'est pas en coupant les choses avec acceptation – comme les sacs veulent faire – que les problèmes sont résolus.
Tout le monde ne partage pas le scepticisme des institutions, et certaines entreprises semblent intéressées à protéger leur image. Aucune marque, naturellement, ne veut se voir peinte comme une cause de problèmes de santé – mentale ou physique. Par exemple, Openai montre qu'il a pris les rapports reçus au sérieux: Sam Altman, PDG de la société, a reconnu publiquement sur X que « les gens ont utilisé la technologie, y compris l'IA, de manière auto-destructive ». Sa déclaration est venue après plusieurs épisodes documentés d'utilisateurs qui ont ou immédiatement s'effondrer mentale Tout en interagissant avec Chatgpt.
La société a ensuite introduit des mesures préventives spécifiques dans son chatbot le plus populaire. Parmi ceux-ci, des invites qui encouragent les utilisateurs à faire des pauses après des conversations prolongées et des changements dans la façon dont le système répond aux questions relatives aux défis personnels. Altman a précisé que si la plupart des utilisateurs parviennent à maintenir une ligne claire entre la réalité et la fiction, « un petit pourcentage ne réussit pas ».
La question reste ouverte: est-ce vraiment un nouveau phénomène lié à l'intelligence artificielle ou simplement à la énième manifestation de problèmes pré-existants à travers des outils technologiques de plus en plus sophistiqués? La réponse pourrait influencer considérablement l'avenir politiques réglementaires de l'IA aux États-Unis et au-delà.
Voir l’article original en italien
