La mauvaise compagnie de votre agent IA, le risque que personne ne voit

La mauvaise compagnie de votre agent IA, le risque que personne ne voit

Moltbook est le lieu où différents agents d'IA interagissent, échangent des données et exécutent des tâches complexes de manière autonome. C’est ainsi que José Maldonado l’a clairement défini jeudi dernier au sein de l’Observatoire Blocchain. Un lieu où ces nouvelles entités, agents de l’IA, agissent de manière autonome. Une action au nom de quelqu’un, qui est censée lui donner une identité.

Un quelqu'un, un nous-humain, qui devient une référence, la chose la plus proche de la réalité, des actions des agents de l'IA. Peut-être, au moins dans un premier temps, cela nous rend-ils certificateurs des actions réalisées par notre agent et, de cette manière, responsables. En référence ultime à la culpabilité. Eh bien, il semble que la seule chose dont ces agents ne nous libèreront pas, c’est la culpabilité. Ce que de nombreux philosophes, tout au long de l’histoire et surtout ceux qui ont entretenu un dialogue direct avec Nietzsche, est ce qui différencie l’être humain des autres entités.

Toutes ces questions mettent en échec la notion d’identité, car, en fin de compte, ce qui fait de nous une unité, ce qui nous unifie, c’est la responsabilité et la culpabilité. Mais, à partir de là, les questions s'enchaînent : dans quelle mesure notre agent IA ou nos agents IA, enfin il n'y a pas de problème s'ils sont plusieurs, agissent pour nous ? Dans quelle mesure n’agirons-nous pas en fonction des décisions prises par nos agents IA ? En bref : qui sommes-nous ? Notre agent IA ? Eh bien oui, dans une large mesure. Notre identité numérique ne sera plus une figure, plus ou moins réalisée, que l’on manipule « par derrière » comme une sorte de marionnette ou de marionnette. Ce sera une entité autonome qui agira pour nous, en tant que partie de notre identité et source de notre responsabilité, mais décidera par elle-même.

Goal achète Moltbook pour être le DNI de l'économie agentique

Un nouveau monde s’ouvre et, surtout, une belle opportunité commerciale pour les cabinets d’avocats, avec cette responsabilité. Bien qu'il soit possible qu'il s'agisse de cabinets d'avocats dont les tâches sont principalement accomplies par des agents d'IA, soit pour poursuivre en justice, soit pour défendre des références humaines contre les comportements d'autres agents d'IA, qui ont décidé pour eux-mêmes, mais au nom d'autrui, de ces références humaines.

Pour l'instant, Moltbook a été racheté par Meta, une entreprise qui parie depuis un certain temps sur ces espaces alternatifs ou virtuels, où l'imagination peut se confondre avec la réalité, mais avec des effets réels prévisibles. On sait déjà à quel point Zuckerberg est attiré par la logique du métaverse, la création d'avatars ou de doubles virtuels, et des choses comme Le problème des trois corpsun roman inclus dans une trilogie qui se termine par le titre symbolique : La fin de la mort. Car c’est une autre question : qu’arrivera-t-il à nos agents d’IA, ceux qui nous représentent, lorsque nous serons morts ? Peuvent-ils continuer à agir en notre nom ?

Le point fort de Moltbook sont les soi-disant compétences, qui sont des extensions, de nature modulaire, qui s'ajoutent aux agents. Ainsi, module par module de compétences, ils commencent par analyser nos finances, gérer nos candidatures, répondre au téléphone avec notre voix et, peut-être, nous survivre. UN alter ego avec une grande capacité d'action. Surtout, plus rapide, plus efficace et moins paresseux. Ce n'est plus seulement un agent avec qui on parle, toujours aussi compréhensif, mais il exécute.

Ces nouveaux agents IA apprennent, autrement dit, module par module. Autrement dit, ils ajoutent des compétences spécifiques à leurs capacités. Une fois ajouté, ils peuvent l’exécuter immédiatement. Peut-être que l’apprentissage humain futur se déroulera ainsi, paquet par paquet d’instructions pour accomplir des tâches. Mais si ces tâches doivent être exécutées par des agents IA de manière beaucoup plus efficace, pourquoi apprendre ? Le module est ajouté et c'est tout.

Le grand horizon de l’imagination réside dans la capacité de ces machines à fonctionner avec d’autres machines. Ainsi, les IA peuvent partager entre elles leurs propres compétences. Créez-les et testez-les même. Une machine IA crée un nouveau compétences et les autres peuvent adopter la nouveauté. A moins que les avocats ne mettent à nouveau les bras sur les hanches et ne fassent allusion aux droits de propriété intellectuelle. Des droits qui, bien entendu, seront revendiqués par le « parasite » humain de l’IA créatrice de compétences. L’un sera ce que sa machine, son clone machinique, son IA, est capable de faire. La question n’est pas tant de savoir dans quelle mesure ces machines peuvent nous cloner nous-mêmes, mais dans quelle mesure nous pouvons cloner les capacités de nos IA.

Au début de la relation, nos agents IA apprendront de ce que nous faisons, de nos tâches enregistrées numériquement. À propos de nos flux de travail et de nos façons de travailler. Cela va même envahir notre manière de parler. Bref, vous apprendrez à vous comporter comme un humain, avec nos critères. Petit à petit, il nous ressemblera davantage, et ainsi nous augmenterons les autorisations respectives pour qu'il puisse prendre des décisions. Après, la relation aura tendance à s’inverser, ce sera nous qui apprendrons de nos agents IA. Nous serons ceux qui ressembleront à une machine qui a commencé à nous ressembler.

Le danger, répétant une histoire que nous connaissons déjà, réside dans les entreprises machiniques et les collaborations de notre agent IA. Le danger vient toujours d’une mauvaise compagnie. Si les agents de l’IA se rassemblent comme des méchants, cela peut nous mettre en danger. Pour cette raison, certains pensent qu'il est préférable qu'il n'entre pas en contact avec le module de socialisation et de collaboration avec d'autres machines, même si une telle décision pourrait constituer un obstacle majeur à son développement et à son potentiel de développement de nouvelles capacités. Dans tous les cas, il convient de maîtriser notre agent IA et de vérifier qu'il respecte les consignes de sécurité. Un processus très humain, trop humain.

Voir l’article original en espagnol

Audible
🎧 Découvrez le plaisir de l’écoute avec Audible d’Amazon ! Cliquez maintenant et obtenez votre premier livre audio GRATUIT. Ne manquez pas cette chance de transformer vos trajets en aventures épiques ! 📚