L’IA est prête à prendre le contrôle de la langue, du droit et de la religion, prévient l’historien Yuval Noah

L'historien et auteur Yuval Noah Harari a averti mardi lors du Forum économique mondial que l'humanité risquait de perdre le contrôle du langage, qu'il qualifie de « superpouvoir » déterminant, à mesure que l'intelligence artificielle opère de plus en plus par l'intermédiaire d'agents autonomes plutôt que d'outils passifs.

Harari, auteur de « Sapiens », est devenu une voix fréquente dans les débats mondiaux sur les implications sociales de l'intelligence artificielle. Il a fait valoir que les codes juridiques, les marchés financiers et les religions organisées dépendent presque entièrement de la langue, les laissant particulièrement exposés aux machines capables de générer et de manipuler du texte à grande échelle.

« Les humains ont conquis le monde non pas parce que nous sommes physiquement les plus forts, mais parce que nous avons compris comment utiliser les mots pour amener des milliers, des millions et des milliards d'étrangers à coopérer », a-t-il déclaré. « C'était notre super pouvoir. »

Harari a souligné les religions basées sur des textes sacrés, notamment le judaïsme, le christianisme et l'islam, affirmant que la capacité de l'IA à lire, conserver et synthétiser de vastes corpus d'écrits pourrait faire des machines les interprètes les plus autorisés des écritures.

« Si les lois sont faites de mots, alors l'IA prendra le contrôle du système juridique », a-t-il déclaré. « Si les livres ne sont que des combinaisons de mots, alors l'IA prendra le contrôle des livres. Si la religion est construite à partir de mots, alors l'IA prendra le contrôle de la religion. »

À Davos, Harari a également comparé la diffusion des systèmes d’IA à une nouvelle forme d’immigration, notant que le débat autour de la technologie se concentrera bientôt sur la question de savoir si les gouvernements devraient accorder la personnalité juridique aux systèmes d’IA. Plusieurs États, comme l’Utah, l’Idaho et le Dakota du Nord, ont déjà adopté des lois stipulant explicitement que l’IA ne peut pas être considérée comme une personne au sens de la loi.

Harari a conclu son discours en avertissant les dirigeants mondiaux d'agir rapidement sur les lois liées à l'IA et de ne pas supposer que la technologie restera un serviteur neutre. Il a comparé les efforts actuels visant à adopter cette technologie à des cas historiques dans lesquels des mercenaires ont ensuite pris le pouvoir.

« Dans dix ans, il sera trop tard pour décider si les IA doivent fonctionner comme les gens sur les marchés financiers, dans les tribunaux, dans les églises », a-t-il ajouté. « Quelqu'un d'autre l'aura déjà décidé à votre place. Si vous voulez influencer la direction que prendra l'humanité, vous devez prendre une décision maintenant. »

Cependant, les commentaires de Harari pourraient frapper durement ceux qui craignent la propagation avancée de l’IA, mais tout le monde n’est pas d’accord avec son approche. Le professeur Emily M. Bender, linguiste à l’Université de Washington, a déclaré que le positionnement des risques comme Harari l’a fait ne fait que détourner l’attention des acteurs humains et des institutions responsables de la construction et du déploiement des systèmes d’IA.

« Il me semble qu'il s'agit en réalité d'une tentative de dissimuler les actions des personnes et des entreprises qui construisent ces systèmes », a déclaré Bender. Décrypter dans une interview. « Et aussi une exigence que nous abandonnions tous nos propres droits humains dans de nombreux domaines, y compris le droit à nos langues, aux caprices de ces entreprises sous couvert de ces soi-disant systèmes d'intelligence artificielle. »

Bender a rejeté l’idée selon laquelle « l’intelligence artificielle » décrit une catégorie claire ou neutre de technologie.

« Le terme intelligence artificielle ne fait pas référence à un ensemble cohérent de technologies », a-t-il déclaré. « C'est effectivement, et cela a toujours été, un terme marketing », ajoutant que les systèmes conçus pour imiter des professionnels tels que les médecins, les avocats ou les membres du clergé manquent de cas d'utilisation légitimes.

« Quel est le but de quelque chose qui peut ressembler à un médecin, un avocat, un membre du clergé, etc. ? » » dit Bender. « Le but est la fraude. Point final. »

Alors que Harari a souligné l'utilisation croissante d'agents IA pour gérer les comptes bancaires et les interactions commerciales, Bender a déclaré que le risque réside dans la facilité avec laquelle les gens s'appuient sur des résultats générés par des machines qui semblent faire autorité mais manquent de responsabilité humaine.

« Si vous disposez d'un système dans lequel vous pouvez poser une question et qu'il renvoie quelque chose qui ressemble à une réponse, qui est dépourvu de son contexte et de toute responsabilité quant à la réponse, mais positionné comme provenant d'un oracle omniscient, alors vous pouvez voir comment les gens voudraient que cela existe », a déclaré Bender. « Je pense qu'il y a un grand risque que les gens commencent à s'orienter vers cela et à utiliser ce résultat pour façonner leurs propres idées, croyances et actions. »