la fin de l’obéissance humaine avec l’IA

L'intelligence artificielle (IA) a eu l'une de ses premières pratiques en matière de surveillance. Avec de nombreuses critiques d'un point de vue éthique sur ses préjugés, il est devenu un outil fondamental dans les lieux qui nécessitent des contrôles spéciaux tels que : les aéroports, les entrées d'infrastructures sensibles, etc. Même comme outil pour certaines politiques pénales. C'est une IA qui surveille. Mais grâce à l’IA elle-même, nous entrons dans une nouvelle étape d’automatisation. Une automatisation qui transforme les machines en acteurs décisionnels. C’est à partir de là que le rapport de surveillance semble s’inverser, ce qu’il faut surveiller, c’est l’IA. Surtout à partir du moment où l’on peut prendre des décisions. Une exigence qui nous amène au paradoxe de l’automatisation des machines, dont l’IA.

IA humaine

Depuis que les premières machines ont commencé à se déplacer sans impulsion animale, le rêve d’automatisation s’est accru. Des machines qui fonctionnent toutes seules. En principe, imaginé à partir de roues, poulies et cordes. Même l’État était pensé ainsi, comme un organisme à rouages ​​qui fonctionne de manière autonome. C'est à cela que pensait Hobbes, pour nous libérer des vices humains. Mais l’État ne pouvait pas se débarrasser de ces vices, plus forts et plus insaisissables que l’acier des câbles et des rouages.

350 millions contre l'IA : Warren Buffett soutient la résistance du New York Times

Désormais, l’automatisation s’imagine à partir de puces et de cartes. Nous sommes déjà entourés de multiples appareils qui fonctionnent de manière autonome, stimulés par de petits détails de l'environnement. Ce sont des dispositifs assez complexes, mais pour des réponses relativement simples, qui contrôlent peu de dimensions : lumières, adaptation de température, alarmes, réponses très standardisées. Mais le rêve est toujours là. Avec le sentiment croissant qu'il touche déjà du doigt : moyens de transport autonomes, conversations aux réponses complexes, dispositifs de contrôle des grandes infrastructures, etc. Dans ces automatisations de contrôle, il s'agissait essentiellement de dispositifs intervenant seuls en cas de problème.

C’est un rêve qui a aussi cultivé de terribles cauchemars. Le cauchemar que l’autonomie de telles machines se retournerait contre leurs créateurs. Contre les êtres humains. Asimov a donc établi les trois règles de la robotique : 1. Ne pas nuire : un robot ne nuira pas à un être humain et ne lui permettra pas, par inaction, de subir un danger ; 2. Obéir : un robot obéira aux ordres humains, à moins qu'ils n'entrent en conflit avec la Première Loi ; 3. Se protéger : Un robot protégera sa propre existence, tant qu’il ne viole pas la première ou la deuxième loi.

Nouvelle étape d'automatisation

Dans l’ensemble de ce processus, des doutes subsistent quant au concept même d’automatisation, qui s’est également développé à mesure que les capacités de l’automatisation elle-même ont augmenté. D’une certaine manière, plus nous réalisons l’automatisation, plus nous voulons d’autonomisation. C’est un processus qui présente des caractéristiques de dépendance, car lorsque les choses sont facilitées par l’automatisation, il nous est difficile de revenir aux étapes antérieures. Eh bien, nous sommes sur la voie d’une nouvelle étape de l’automatisation, ce qu’on appelle l’ère agentique ou l’ère des systèmes fixant des objectifs. Quelque chose qui dépasse la logique adaptation-réponse.restauration. C'est une nouvelle logique où l'on commence à douter du rôle de l'action humaine, par rapport à cette nouvelle action des machines.

Une nouvelle étape de l’automatisation basée sur l’IA. Fondamentalement, il s'agit de poser des problèmes à la machine, de toute nature, et de la faire résoudre. José Maldonado nous a donné des exemples de cette nouvelle logique dans l'Observatoire Blockchain. Les entreprises commencent à fonctionner en collaboration avec ces nouvelles machines. Ils occuperont bientôt des postes de direction. Une rude bataille est sur le point de commencer entre les chefs d’entreprise pour décider laquelle de ces machines mettre en œuvre. Une décision qui envoie des signaux sur les postes qui pourraient disparaître à l'avenir, puisque ces machines seront chargées d'effectuer une bonne partie de leur travail. Une partie de ces tâches consistera à donner des ordres à des employés humains. Espérons qu'ils respectent les règles en vigueur d'Asimov.

Résistance aux ordres du prochain BossIA

Difficile d’espérer une réplique du « bon patron », tant un tel chiffre semble inexistant. Mais, au moins, ne vous nourrissez pas fondamentalement du profil du « mauvais patron ». Nous prévoyons une résistance aux ordres du prochain BossIA. Une nouvelle législation va certainement apparaître qui obligera les entreprises à nourrir ces nouveaux patrons avec une documentation de l'organisation exempte de mauvaises actions.

On ne peut se référer qu’aux carrières des meilleurs employés. Une autre tâche pour ceux de conformitéjusqu'à ce qu'ils soient remplacés par une machine agent autonome. En tout cas, pensons que les entreprises se plieront à ce bon régime informationnel. Mais le nouvel agent autonome pourrait souhaiter avoir son propre régime alimentaire. Soyez une entité autonome curieuse et agissez, mais sans responsabilités.

Peut-être sans prendre en considération les conséquences potentielles de votre décision. Il y a déjà eu des cas de décisions automatisées par l’IA qui ont entraîné des pertes importantes pour les entreprises pour lesquelles elles travaillaient. Il faudrait donc modérer leur autonomie. Mais toute modération de l'autonomie serait une pas d'autonomie. Peut-être, mettre un superviseur, déléguant la portée de l'agent IA au niveau de l'outil subordonné. Trop de sacoches pour un si court trajet ! On reviendrait presque à la situation actuelle. De l’IA qui surveille, nous devenons les chiens de garde de l’IA.