L’une des confrontations les plus marquantes de ces derniers jours a été celle entre le président argentin Javier Milei et l’historien et philosophe israélien Yuval Noah Harari. Au-delà des échanges de déclarations, le débat reflète deux manières radicalement différentes d’appréhender l’avenir de la technologie, le rôle de l’État et les risques de l’intelligence artificielle. Soit deux visions du présent en termes de colonisation du futur.
Milei et Harari confrontés à l'IA
Du point de vue de Milei, l’avenir peut encore être colonisé, objet de l’action humaine, grâce à la technologie. Harari représente la peur d'être colonisé par le futur ; la vision du futur comme une menace. Or, au-delà des différentes perspectives, l’objet qui a focalisé le débat est la société dite automatisée. Une société automatisée est une entreprise dont la gestion quotidienne est en grande partie ou entièrement assurée par des systèmes d’intelligence artificielle plutôt que par des managers humains.
Cela ne signifie pas nécessairement que l’entreprise n’a pas de propriétaires ou d’actionnaires humains. La différence est que les décisions opérationnelles sont prises par un système d’IA. Les sociétés entièrement automatisées n’existent pas encore. Certaines entreprises utilisent l’IA pour prendre des décisions aussi importantes que celles liées à la logistique, aux investissements, aux prix, aux contrats avec des fournisseurs ou aux stratégies publicitaires. Mais les sociétés entièrement automatisées, non. Encore moins avec la reconnaissance légale, mesure que commençait à prendre le gouvernement argentin.
Invitation aux grandes entreprises technologiques à s'installer en Argentine
La chronologie du litige est la suivante. Scène 1 : Milei publie un article dans le Temps Financier dans lequel il expose une stratégie pour faire de l'Argentine un centre mondial de l'intelligence artificielle. Parmi les initiatives proposées figure une réforme juridique permettant aux entreprises entièrement gérées par des systèmes d'IA d'avoir une personnalité juridique et une responsabilité limitée, dans un cadre réglementaire conçu spécifiquement pour ce type d'organisations.
L'IA de Claude Mythos certifie la fin de la Modernité : on entre dans la cybertranslimitation
Il s’agissait fondamentalement d’une invitation formelle pour les grandes entreprises technologiques à s’installer en Argentine et, plus précisément, d’un moyen d’attirer des investissements dans le pays. Bien sûr, en tenant compte du profil du président argentin, avec des phrases d'une importante condensation idéologique. Comme quand il dit qu’il s’agit de : «offrir le refuge dont James Watt avait besoin il y a 200 ans, permettant à l'imagination de se développer et de grandir librement».
En fait, le titre de l’article est une déclaration en soi : l’Argentine invite l’IA à se libérer («« L’Argentine invite l’IA à se libérer »dans son titre original anglais). Milei soutient, entre autres, que le pays doit devenir pour l'IA ce qu'Amsterdam représentait pour le commerce mondial au XVIIe siècle : un territoire où l'innovation rencontre le moins d'obstacles possible. Comme on peut le constater, les références historiques profondes condensent la proposition d'attirer les investissements ; faisant apparaître, plus qu'une proposition pour attirer les investissements, la situation de l'Argentine au premier point de la carte institutionnelle d'une sorte de nouveau capitalisme.
Personnalité juridique à un robot
L'article accompagnait l'envoi au Sénat argentin, le 1er juin, d'un projet de loi générale sur les sociétés. Une profonde réforme du droit des sociétés argentin où est définie la figure de l'entreprise automatisée. Elle est définie dans le texte législatif comme celle qui : « développe son objet social au moyen de systèmes algorithmiques autonomes ou d’agents d’intelligence artificielle, sans nécessiter de travailleurs dépendants ou de ressources humaines pour son fonctionnement ordinaire ».
Indirectement, un robot se voit conférer la personnalité juridique. De cette personnalité juridique, vous avez des responsabilités. Ainsi, l’entreprise répond avec ses actifs des dommages causés. Un algorithme qui propose commercialement des services répond avec ses actifs en cas de dommages. En résumé, un algorithme qui propose un service ou un produit de manière autonome peut s'établir en tant qu'entreprise, négocier avec des tiers et limiter sa responsabilité aux actifs de l'entreprise. Il est possible de penser, même s'il ne s'agit que d'une intuition fondée, que la décision de l'algorithme de devenir une entreprise est également autonome. Une question qui, en tout cas, semble hors débat.
L’IA comme technologie dangereuse car infaillible
Scène 2 : Harari entre avec sa réponse dans le même média. Depuis la publication de son titre à succès SapiensYuval Noah Harari est devenu l’un des rares intellectuels planétaires dont les opinions sont entendues dans le monde entier. Ce n’est pas la première fois que le professeur de l’Université hébraïque de Jérusalem s’exprime sur l’IA. En fait, il joue dans son récent livre Nexus : une brève histoire des réseaux d'information de l'âge de pierre à l'IA. Il y définit l’IA comme la première technologie de l’histoire capable de prendre des décisions et de générer de nouvelles idées par elle-même. Un livre qui n'a pas obtenu le succès commercial des précédents -Sapiens, Deus- et dans lequel il présente l'IA comme une technologie dangereuse car infaillible.
Harari a qualifié l'initiative d'extrêmement risquée, mettant davantage l'accent sur les dimensions politiques que technologiques. Pour Harari, accorder la personnalité juridique aux entités contrôlées par l’intelligence artificielle pourrait leur permettre d’opérer dans l’économie, le système financier ou encore en politique avec un degré d’autonomie sans précédent. Jusqu’à présent, on peut dire que le consensus existe. Or, c’est dans les conséquences d’une telle autonomie des sociétés autonomes que se situe l’accent du conflit. Et ce n’est plus seulement que l’IA est infaillible, mais qu’elle n’a pas peur. Si vous n’avez pas peur, vous n’avez aucune responsabilité.
Buenos Aires, nouvelle Amsterdam
L’historien soutient qu’une IA ne peut pas être dissuadée par les mécanismes traditionnels de responsabilité pénale. Même si une personne peut craindre d’aller en prison ou de subir des conséquences personnelles, un système d’intelligence artificielle manque d’incitations psychologiques pour obéir à la loi. En outre, il prévient que des modèles suffisamment avancés pourraient apprendre à exploiter les failles juridiques ou à manipuler les règles à leur propre bénéfice. La propre infaillibilité de chacun, le pouvoir sur les échecs des autres et le manque de responsabilité sont articulés dans l'argumentation en réponse à Milei.
Une réponse qui tente de mettre à nu les arguments du dirigeant argentin : «Milei espère faire de Buenos Aires une nouvelle Amsterdam. Cela risque d’en faire une nouvelle Batavia« . Batavia, aujourd'hui Jakarta, était la capitale des anciennes colonies néerlandaises d'Asie, historiquement associée au pouvoir des grandes entreprises commerciales. Harari ne conteste pas la capacité de l'IA à générer de la richesse ; mais il dénonce que la personnalité juridique est une clé à usage général qui permettrait également à ces nouvelles sociétés autonomes d'accéder à nos systèmes financiers, économiques et politiques. C'est là que réside le cœur de la préoccupation de l'historien hébreu, la capacité d'action qui est donnée à ces acteurs avec la reconnaissance de la personnalité juridique.
Jour du jugement dernier
Scène 3 : Milei a répondu par une déclaration officielle, publiée par le soi-disant Bureau du Président, rejetant les critiques. Il convient de noter que Milei a mis dix jours pour préparer sa réponse. C’est-à-dire que cela a été réfléchi et il ne semble pas que cela puisse être attribué au caractère explosif avec lequel l’homme politique argentin a tendance à être représenté.
La ligne de justification épaisse est utilisée : « accorder la personnalité juridique aux sociétés d’IA ne signifie pas lancer le Terminator Judgment Day ». Mais aussi des nuances relativement subtiles, à partir des propres travaux de Harari et de sa propre défense du libéralisme : « Les préoccupations de Harari sont un argument en faveur de la personnalité juridique, et non l'inverse », soulignant que la personnalité juridique « loin de faciliter les abus, est précisément le mécanisme par lequel une société canalise son énergie créatrice dans le cadre du droit, du droit de propriété et du principe de non-agression qui constituent les piliers du libéralisme ».
Il montra même une connaissance du travail de l'historien, soulignant qu'en Sapiens fait l’éloge de la responsabilité limitée, affirmant que : « L’idée derrière de telles sociétés compte parmi les inventions les plus ingénieuses de l’humanité. » Mais surtout, la réponse a souligné qu'avec les réglementations et la nouvelle loi proposée, ce qui est obtenu est une protection, contrairement à l'argument de Harari sur la vulnérabilité généralisée.
Tension entre marché et démocratie
Avec ce différend entre Milei et Harari, l’ouverture d’un nouveau champ de bataille idéologique autour de l’IA est certifiée. Le véritable intérêt de l'échange de messages, parmi lesquels un certain ton dur se dégage de la réponse de Harari, réside dans le débat sous-jacent. Un débat entre ceux, d’un côté, qui estiment que l’IA doit être développée avec une intervention minimale de l’État pour accélérer l’innovation. De l’autre, ceux qui considèrent que nous sommes face à une technologie capable de transformer profondément l’économie, la politique et la société, c’est pourquoi il est essentiel de construire d’abord des mécanismes de supervision solides. Un débat que l’on a déjà vu concernant d’autres technologies, dont la technologie Blockchain.
En ce sens, la confrontation entre Javier Milei et Yuval Noah Harari symbolise probablement l’un des grands débats de cette décennie : la question de savoir si l’IA doit progresser au rythme fixé par le marché ou au rythme permis par les institutions démocratiques. Un débat qui, actualisé par rapport à l’IA, nous conduit à une tension très présente dans la modernité au cours des cent dernières années, comme la tension entre marché et démocratie. Sans marché, il n’y a pas de démocratie. Sans démocratie, il n’y a pas de marché. Ils doivent coexister. Mais la coexistence génère de grandes tensions. Eh bien, l’IA entre dans ces tensions, comme beaucoup d’autres problèmes qui nous entourent aujourd’hui.
Voir l’article original en espagnol
