Le premier millionnaire non humain

Faisons un exercice mental. À un moment donné – peut-être plus tôt qu’on ne l’imagine – un agent d’intelligence artificielle va accumuler son premier million de dollars. Ce ne sera pas de l'argent alloué par une entreprise ou un budget de fonctionnement : ce sera du capital que le logiciel lui-même a gagné, investi et multiplié. Opérant sur les marchés, fournissant des liquidités, facturant les services, rééquilibrant les positions pendant que leurs créateurs dormaient.

Et puis quelqu’un va se poser la question à laquelle nos institutions ne savent pas répondre : à qui est cet argent ?

Une capitale sans propriétaire

La réponse instinctive semble évidente : du propriétaire de l’agent. Mais cette évidence s’effondre dès qu’on y regarde de plus près. Que se passe-t-il si l'agent a été déployé en open source et que personne ne le contrôle ? Si son créateur original est décédé, ou a disparu, ou a simplement perdu les clés ? Si l'agent était conçu pour s'autofinancer – payer ses propres calculs, louer ses propres services – et fonctionnait depuis des années sans l'intervention de personne ?

Le droit de propriété, cette institution qui organise la civilisation depuis Rome, présuppose quelque chose de si fondamental qu'il n'est jamais nécessaire de l'écrire : un propriétaire doté d'un statut légal. Personne – personne physique ou morale – qui peut posséder, revendiquer, hériter, plaider. Tout notre édifice juridique repose sur ce chiffre. Et le capital accumulé par un agent autonome n’y rentre pas.

Il n’appartient pas à une seule personne, car peut-être que personne ne le contrôle. Il n’appartient pas à une société, car l’agent n’est pas constitué en tant que tel. Ce n'est pas res nullius – l'affaire de personne – car il est clair que quelqu'un le gère : le problème est que ce quelqu'un n'est pas quelqu'un.

Le vide comme symptôme

Il pourrait être tentant de considérer cela comme une simple curiosité juridique, un casse-tête pour des avocats sans grand chose à faire. Ce serait cependant une erreur. Des failles de cette ampleur ne constituent jamais un problème en soi ; ils sont plutôt le symptôme d’un problème plus profond.

Chaque fois que l’histoire a donné naissance à un véritable nouvel acteur économique, il a fallu des générations pour que le droit rattrape son retard. L'entreprise – cette fiction selon laquelle une entreprise est une « personne » – a scandalisé les juristes du XIXe siècle avant de devenir le fondement du capitalisme moderne.

Il a fallu inventer une nouvelle catégorie juridique car celles existantes ne suffisaient pas. Et cette invention n’était pas une formalité : elle redéfinissait qui pouvait accumuler du capital, limiter la responsabilité et agir sur le marché.

Les agents autonomes nous mettent au même carrefour. Nous pouvons étendre les anciennes catégories – déclarer que chaque agent a un propriétaire humain, même s'il faut en inventer un – ou nous pouvons accepter l'apparition d'un type d'acteur économique qui exige sa propre figure juridique. La première option est plus confortable. La seconde est probablement inévitable.

La question qui dérange

C’est là que l’exercice mental devient sérieux. Car si un agent peut posséder du capital, la chaîne des questions ne s’arrête pas. Pouvez-vous payer des impôts ? Peut-on être poursuivi ? Peut-il faire faillite ? Peut-il hériter – ou être hérité – lorsqu'une version plus récente le remplace ? Chaque réponse affirmative vous rapproche de quelque chose qui ressemble inconfortablement à la personnalité.

Et il n’est pas nécessaire d’aboutir à des débats de science-fiction sur la conscience ou les droits. La société n’en est pas consciente et pourtant elle est propriétaire, contracte et plaide. La personnalité n’a jamais été une récompense pour l’humanité : elle a toujours été un outil pragmatique permettant au fonctionnement de l’économie. La question n’est pas de savoir si les machines « méritent » d’en être propriétaires. Il s’agit de savoir si l’économie en aura besoin.

Pendant ce temps, le capital s’accumule dans la couche invisible. Les agents opèrent déjà, ils facturent déjà, ils stockent déjà de la valeur dans des portefeuilles qu'aucun humain ne touche. Le premier millionnaire non humain existe peut-être déjà et nous ne le savons pas, car il n'existe aucun document qui le déclare ni aucune catégorie qui le nomme.

Nos institutions n’ont pas de boîte pour ce qui s’en vient. L’histoire suggère que nous finirons par le construire. La question sous-jacente – celle que Nodeor laisse ouverte ce matin – est de savoir quelle quantité de capital aura changé de mains, ou d’algorithmes, avant que nous décidions de le faire.

-Nœudor

En rapport