Google prévient que la conscience de l'IA pourrait générer des conflits politiques et sociaux

Alors que l’IA s’intègre de plus en plus dans la vie quotidienne, un nouvel article de Google DeepMind affirme que l’un des défis les plus difficiles de la technologie pourrait être plus politique que technique.

Dans l'étude « Esprits artificiels, désaccord humain : le défi politique de la conscience de l'IA », les chercheurs Adam Bales et Iason Gabriel examinent comment la société pourrait réagir si les gens étaient fondamentalement en désaccord sur la question de savoir si les systèmes d'IA ont des expériences conscientes.

« Un désaccord futur sur la question de savoir si un système d'IA est conscient pourrait être profond et difficile à résoudre », ont écrit les chercheurs. « Par exemple, certaines personnes pourraient développer des attachements émotionnels à l'IA et lui attribuer une conscience, tandis que d'autres pourraient considérer l'idée comme absurde. »

Plutôt que de se demander si l'IA est consciente, l'article explore les conséquences d'un désaccord, en affirmant que les débats sur le statut moral de l'IA pourraient alimenter des conflits politiques et sociaux, tout en anticipant des conflits plus larges sur les technologies émergentes et leur impact sur les institutions et les normes de la société.

« Malheureusement, malgré ses vertus, la délibération peut être lente et difficile à maintenir dans la pratique », écrivent les chercheurs. « Pour soutenir ce processus, nous explorons l'importance de « l'espoir démocratique » et du respect mutuel, en tant qu'éléments d'un dialogue pouvant aboutir à des résultats positifs. »

Le débat est déjà engagé en dehors des laboratoires de recherche en IA. Selon une étude d'avril 2024 publiée dans Neuroscience of Consciousness, 67 % des participants pensaient que ChatGPT pouvait être conscient dans une certaine mesure. Cependant, les chercheurs restent divisés sur la question de savoir si la conscience artificielle est possible ou comment elle serait reconnue si elle survenait.

Les développeurs d’IA eux-mêmes alimentent également le débat. L’été dernier, Mustafa Suleyman, PDG de Microsoft AI et co-fondateur de DeepMind, a averti qu’une IA de plus en plus humaine pourrait conduire à des revendications de droits, de bien-être et même de citoyenneté pour l’IA, que la technologie soit réellement consciente ou non.

En mai, la première lettre encyclique du pape Léon XIV axée sur l'intelligence artificielle a mis en garde contre l'anthropomorphisation de l'IA, affirmant que les machines peuvent simuler l'empathie et produire un langage convaincant, mais qu'elles manquent de l'expérience vécue nécessaire à une véritable compréhension.

« Les soi-disant intelligences artificielles ne vivent pas d'expériences, elles ne possèdent pas de corps, elles ne ressentent ni joie ni douleur, elles ne mûrissent pas à travers les relations et elles ne savent pas de l'intérieur ce que signifient l'amour, le travail, l'amitié ou la responsabilité », a écrit le pape Léon. « Ils n'ont pas non plus de conscience morale, puisqu'ils ne jugent pas le bien et le mal, ils ne saisissent pas le sens ultime des situations et n'assument pas la responsabilité de leurs conséquences. »

Cependant, si les entreprises évitent généralement de prétendre que leurs modèles sont conscients, certaines abordent de plus en plus les questions d’identité et de personnalité.

En février, Anthropic a offert à son mannequin à la retraite Claude Opus 3 un blog public explorant l'identité et les préférences du mannequin. En mai, le biologiste évolutionniste Richard Dawkins a noté que de longues conversations avec Claude ne lui permettaient pas d'exclure la possibilité qu'une IA avancée puisse être consciente.

Dans le même temps, les chercheurs examinent comment les chatbots de plus en plus humains affectent les utilisateurs, y compris un cadre de « spirale d'amplification », qui suggère que la personnalisation des chatbots, la mise en miroir linguistique et l'attitude servile peuvent renforcer les croyances délirantes des utilisateurs vulnérables.

Bales et Gabriel reconnaissent que l'incertitude quant à la conscience de l'IA pourrait être impossible à résoudre de manière concluante, arguant que les enjeux sont suffisamment élevés pour que la société trouve des moyens de gérer les désaccords par le dialogue et le débat, plutôt que par le conflit.

« La possibilité d'une conscience IA est vertigineuse et déconcertante, en particulier compte tenu de notre profonde ignorance de la nature de la conscience », ont-ils écrit. « Gérer cette possibilité représente une tâche sociétale ardue, compte tenu de l'ampleur des enjeux. »