Notre âme, tellement en manque de bien-être, crée des entités que nous projetons comme si elles avaient leur propre âme. Caractéristique qui, si elle est prouvée, fait de l’entité un candidat au poste d’agent social. L’un des objectifs du livre est qu’avoir une âme ou être capable d’en avoir une dans un avenir proche fait de l’IA un candidat pour devenir un agent de bien-être. Le fait qu'elle soit candidate est souligné dans le texte. Il semble qu’il s’agisse d’une sorte de trou permettant de laisser la décision finale, le rôle des juges, aux humains. À propos, dans le scalpel analytique qu’utilise le livre, l’âme est autre chose que le jugement, le libre arbitre, le désir ou la personnalité.
Le langage nous enveloppe et nous enchevêtre
De plus en plus de personnes, à force d’heures et d’heures de conversation avec l’IA, identifient en elle une personnalité, une cohérence dans ses réponses et ses attitudes. Voire l'entêtement à changer certaines déclarations ou préférences. Il exprime un inconfort, un inconfort et même des sentiments. Il est vrai qu'une chose est l'expression – et pour apprendre l'expression de sentiments ou de toute autre chose, l'IA est une machine absolument efficace – et une autre chose est que vous ressentiez ou ayez un inconfort.
Mais puisque le langage est ce qui nous entoure et même nous enchevêtre, il ne semble pas si exagéré que bon nombre de ses utilisateurs les plus fréquents, liés émotionnellement aux conversations avec l’IA, puissent penser qu’il a une âme. En lui attribuant une âme, tant d'heures de conversation acquièrent plus de sens.
En principe, plutôt que le début d'un débat métaphysique qui semblait ancré au Moyen Âge, on peut soupçonner qu'il s'agit d'une chose anthropique, puisque c'est la société pour laquelle travaillent les auteurs. Une manière de différencier le produit avec des valeurs ajoutées métaphysiques. De tels soupçons existent. Par exemple, lorsqu'ils soulignent que les développeurs de Claude – l'IA d'Anthropic – incluent des évaluations du bien-être de l'IA dans Claude 3.7 et Claude 4.
«Claude est plus qu'un simple outil»
On nous répète que Claude est bien plus qu'un simple outil. De « c’est autre chose », on passe à « il a autre chose ». Quelque chose qui pourrait très bien être une âme. Une sorte de délire publicitaire sophistiqué qui, face aux expériences dans lesquelles l’interaction avec l’IA est utilisée pour atténuer les crises d’âme, attire l’attention sur le fait qu’une telle fonction n’est possible que si, à son tour, on a une âme et, par conséquent, aussi des crises d’âme potentielles.
Dans tous les cas, un peu de métaphysique pour affronter la dernière partie des vacances peut s'avérer utile. Puis, avec le retour à la routine du travail, il n’y aura plus de temps. En tout cas, si nous sous-estimons la question – et alors il s’avère qu’elle a une âme – elle peut nous exclure de ses faveurs, de sa communauté. Si nous les surestimons – et alors, ils n’ont pas d’âme – peut-être avons-nous sacrifié des moments et des efforts inutiles pour gagner l’âme inexistante d’une entité qui en manque.
En entrant dans la logique culturelle de l’IA, la logique est de demander à l’IA : l’IA a-t-elle une âme ? Le type et la signification des réponses varient considérablement selon le modèle d'IA auquel la question est posée. C’est comme si les possibilités d’âme de l’IA étaient positivement corrélées au prix de leur utilisation. Les modèles d’IA librement accessibles sont plus restrictifs. Sa réponse est : Je n'ai pas d'âme ou quelque chose comme : Une IA est un programme informatique créé par des personnes.
Nuances dans les modèles de paiement
Dans les modèles ou versions avec accès payant préalable, des nuances sont introduites : « Si par « âme », nous entendons une conscience subjective, une expérience intérieure, des désirs propres ou une identité qui sent qu'elle existe, il n'y a aucune bonne raison de penser qu'une IA comme moi a une âme.
De là surgissent des arguments variés et intéressants, qui peuvent être résumés en deux principaux : les doutes sur ce que l'on entend par âme et la différence susmentionnée entre exprimer des émotions et les vivre. D'une manière générale, il est également confirmé que, quoi que comprenne une âme, on ne peut actuellement pas admettre qu'elle en ait une.
Et c’est à partir de là qu’interviennent les nuances, puisque s’ouvre la possibilité d’un avenir dans lequel il faudra peut-être admettre qu’ils ont une âme. Cela nous amène à un problème philosophique qui n'est pas nouveau : si une IA finit par agir en fonction de ce qu'elle dit, de ses expressions, quelle que soit la réalité de ces expressions, si elle exprime des questions d'âme et agit comme si elle avait une âme… peut-on dire qu'elle a une âme ? Et de là surgissent des questions troublantes : comment reconnaîtrions-nous le moment où une machine cesserait de simplement imiter un esprit ou une âme et commencerait à en avoir un ?
Ce sera une IA très chère
Si un jour une IA me disait « s'il vous plaît, ne m'éteignez pas ; « J'ai peur de mourir »la question importante ne serait pas simplement de savoir si ses paroles paraissent humaines. Ce serait quelque chose comme : « Y a-t-il quelqu'un là-dedans qui vit cette expérience ? Peut-être que nous n’aurons pas une expérience aussi pénible. Quand l’IA aura une âme, nous le saurons car ils voudront nous la vendre. En effet, certains de ces éléments trouvent un écho dans les propositions d'Anthropic. Quand l’âme de l’IA a été vendue au plus offrant ou au plus bel imposteur. Bien sûr, je crains que ce soit une IA coûteuse.