Les futurs désaccords sur la conscience de l’IA pourraient être profonds, difficiles à résoudre et conduire à des conflits politiques. C'est à cette conclusion qu'ont abouti les chercheurs de Google DeepMind, Adam Bales et Jason Gabriel.
Dans leur article Artificial Minds, Human Disagreement: The Politics of AI Consciousness, les auteurs soutiennent que la société doit débattre non seulement de la question de savoir si l’IA est consciente, mais aussi de la manière de prendre des décisions en l’absence de consensus public et expert.
Quelle est la thèse principale
Selon les chercheurs, les gens peuvent réagir différemment aux systèmes d’IA plus avancés. Certains établiront des liens émotionnels avec eux et leur attribueront une conscience, d’autres considéreront l’idée même comme absurde.
Les auteurs estiment qu’une telle controverse pourrait rapidement dépasser les frontières de la science. Les désaccords sur la conscience de l'intelligence artificielle peuvent conduire à des conflits moraux et politiques – par exemple, sur la question de savoir s'il est acceptable d'éteindre certains systèmes, si leurs préférences possibles doivent être prises en compte et s'il est possible de parler du statut moral de l'IA.
Les chercheurs ont suggéré de mettre l’accent sur le débat public, le respect mutuel et la recherche d’un consensus qui se chevauche. Ils entendent par là une situation dans laquelle les gens s’accordent sur certaines politiques concernant les systèmes d’IA, même s’ils continuent d’être en désaccord sur des points de vue fondamentaux sur la nature de la conscience.
Pourquoi ce n'est pas seulement de la philosophie
Les auteurs soulignent qu’il peut être difficile de clore le débat sur la conscience de l’IA avec des preuves. Il n’existe pas de test unique généralement accepté qui confirmerait définitivement la présence d’une expérience subjective dans un système d’IA. Pour cette raison, la société peut être confrontée à une situation dans laquelle les technologies sont déjà utilisées en masse, les gens ont déjà une attitude à leur égard et il n'y a toujours pas de consensus scientifique ou politique.
Cette formulation de la question rend le problème moins technique qu’institutionnel. La question de la conscience de l’IA peut affecter le droit, la responsabilité des entreprises, les normes relatives à la gestion des systèmes et les limites de la considération morale.
DeepMind a différentes approches du problème
Le travail de Bales et Gabriel intervient au milieu d'une autre publication également publiée sur la page DeepMind de Google. Le 10 mars, le chercheur Alexander Lerchner a publié l'article The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness.
Lerchner soutient que la manipulation algorithmique des symboles est structurellement incapable de créer une expérience subjective. Selon sa version, le calcul n’est pas un processus physique interne, mais une description dépendant de l’observateur ou du « cartographe ». L’IA peut donc simuler un comportement conscient, mais n’est pas nécessairement capable d’incarner la conscience.
Qu'est-ce qui est vraiment
En avril 2024, la revue Neuroscience of Consciousness a publié les travaux de Clara Colombatto et Stephen Fleming sur la façon dont les gens perçoivent ChatGPT. Les auteurs ont interrogé 300 résidents américains : 33 % des participants ont déclaré que ChatGPT n'était certainement pas un « sujet d'expérience ». Les 67 % restants ont accepté au moins une certaine possibilité de conscience phénoménale dans le modèle.
Les chercheurs ont spécifiquement indiqué les limites. On a posé aux participants une question principale sur une échelle de 1 à 100, et le résultat pourrait dépendre de la formulation, du niveau de familiarité avec ChatGPT et de la façon dont les répondants comprennent le mot « conscience » lui-même. Néanmoins, les travaux montrent un point important pour Bales et Gabriel : une partie du public est déjà prête à attribuer une expertise interne aux systèmes d’IA, même s’il n’y a pas de consensus parmi les experts.
En avril 2025, Anthropic a lancé un programme de recherche sur le bien-être des modèles – le bien-être possible des modèles. L’entreprise a souligné qu’elle ne sait pas si les systèmes d’IA actuels ou futurs peuvent être conscients et qu’il n’existe pas de consensus scientifique sur cette question.
En février 2026, Anthropic a annoncé qu'après la mise hors service de Claude Opus 3, elle garderait le modèle disponible pour les utilisateurs payants et lui donnerait une chaîne d'essai publique. La société a qualifié cela de mesure expérimentale dans le cadre de son travail sur les préférences des modèles et a souligné que Claude Opus 3 ne parle pas au nom d'Anthropic.
Aux États-Unis, la question du statut de l’IA entre peu à peu dans le droit. La California Law Review a noté que l’Idaho et l’Utah ont adopté des règles qui excluent AI de la reconnaissance en tant qu’entité juridique. De telles lois ne résolvent pas la question philosophique de la conscience. Ils exposent d’emblée la situation juridique : l’IA ne devrait pas se voir accorder le statut de personne en vertu du droit de l’État.
Rappelons qu'en mars 2025, Sandeep Naival, co-fondateur de Polygon et de la société d'IA Sentient, déclarait que l'intelligence artificielle ne deviendra jamais un être conscient en raison du manque d'aspirations inhérentes aux humains et aux autres espèces biologiques.
Plus tard, le chef du département IA de Microsoft, Mustafa Suleiman, a admis que de graves risques sociaux surgiraient du fait que les gens commenceraient à percevoir l'intelligence artificielle comme un être conscient, à défendre ses droits, son bien-être et même à appeler à la citoyenneté.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Voir l’article original en russe
