La société des agents IA : Quand les machines débattent

La société des agents de l’IA est déjà là. C'est un cadeau. Mais c'est avant tout un présent qui a un visage d'avenir. Mieux dit, en supposant l'inévitable incertitude de tout avenir : il a le visage de futurs différents, avec la grande possibilité que d'ici – disons – dix ans, la réalité soit différente.

La société des agents de l'IA

Mais cela vaut la peine de mettre à profit l’imagination sociologique de ce que sera une société organisée autour de l’importance des agents d’IA. Une imagination autour de quelque chose qui est représenté comme la nouvelle révolution technologique : la mécanisation a élargi la capacité de travail physique des humains, les ordinateurs ont élargi la capacité de calcul, Internet a étendu la communication, la société des agents IA élargit la capacité de prise de décision.

La société des agents de l’IA est la conséquence de la nouvelle phase dans laquelle l’IA est entrée. Une phase au cours de laquelle, au lieu de s’appuyer sur un modèle unique pour répondre à des questions ou effectuer des tâches de manière isolée, émergent des organisations ou des réseaux de systèmes d’IA autonomes qui collaborent, négocient et résolvent ensemble des problèmes complexes. Chacun de ces agents d’IA organisés peut planifier, prendre des décisions, utiliser des outils et, surtout, communiquer avec d’autres agents et s’adapter à des circonstances changeantes.

Suivant les principes de la division sociale du travail, que le sociologue français Durkheim a élevé il y a 123 ans au rang de moteur fondamental de la transformation sociale en cours, chaque agent a une fonction spécifique. On peut se spécialiser dans la recherche ; un autre en codage ; un autre en assurance qualité ; tandis qu'un autre gère les flux de travail ou la communication avec les humains. Ensemble, ils forment un écosystème dynamique dans lequel l’intelligence est distribuée plutôt que centralisée.

La division sociale du travail

Les principes de la division sociale du travail, présents depuis des siècles dans des organisations exclusivement formées par des humains, doivent désormais être appliqués aux problèmes d'une société de plus en plus complexe. Des objectifs tels que concevoir un produit, gérer une chaîne d’approvisionnement, analyser les marchés financiers ou découvrir de nouveaux médicaments nécessitent l’intégration de différents domaines de connaissances et d’expertise. Un simple modèle d’IA peut offrir un certain soutien dans certaines phases des processus visant à atteindre de tels objectifs ; mais une équipe coordonnée d’agents spécialisés en IA peut y répondre de manière beaucoup plus efficace et, en utilisant un concept tendance, globale.

Donnons un exemple schématique d'un flux de travail organisé à partir d'agents d'IA interdépendants. Les agents d'enquête collectent des informations provenant de diverses sources, les agents d'analyse évaluent les preuves et identifient des modèles, les agents de planification conçoivent des stratégies, les agents d'ingénierie élaborent des solutions, les agents d'examen évaluent la qualité de ces solutions et détectent les erreurs, et les agents de coordination attribuent des tâches et contrôlent la progression du processus.

Le résultat est un système capable de gérer des flux de travail sophistiqués avec une intervention humaine minimale, intégrant également une flexibilité et une adaptation immédiate aux circonstances. Au cours du processus, les agents échangent des informations, débattent des alternatives, vérifient le travail de chacun et affinent les solutions de manière interactive. Au lieu de s’appuyer sur un modèle de « meilleure réponse » (meilleure réponse)le système bénéficie de la « discussion » ou validation croisée entre les différents agents. Autrement dit, il bénéficie des multiples perspectives présentes, dérivées des spécialisations fonctionnelles respectives.

Activité scientifique

L'association d'agents d'IA fait déjà l'objet d'expérimentations assez avancées dans l'intégration d'outils (différents agents accédant à des bases de données, des API, des moteurs de recherche, des services externes et des applications logicielles), ainsi que dans différents secteurs : développement de logiciels, santé, recherche scientifique, logistique, service client, analyse financière ou cabinets de conseil juridique.

Aujourd'hui, c'est dans l'activité scientifique qu'on attend un impact plus important, avec des espoirs fondés sur l'accélération de la recherche sur des maladies comme la maladie d'Alzheimer ou sur les questions quantiques. Une activité scientifique où la communication entre disciplines, l'interdisciplinarité toujours souhaitée, acquiert un caractère automatique : une découverte en chimie, en science des matériaux ou en médecine est immédiatement rapportée à la biologie, aux énergies renouvelables ou au développement pharmaceutique.

Avec son expérimentation, les problèmes de cette société d’agents d’IA sont également observés. L’une d’elles est qu’à mesure que le nombre d’agents augmente, la communication efficace entre eux et la coordination entre eux deviennent plus complexes, ce qui entraîne l’émergence de décisions contradictoires. Cette situation de décisions conflictuelles peut survenir lorsque les objectifs donnés à l’organisation des agents d’IA se chevauchent, ils ne sont pas hiérarchisés. Après tout, ce sont des machines en quête d’atteindre des objectifs. Même lorsque les objectifs sont hiérarchiques, ils peuvent entrer en conflit. Rappelez-vous les trois lois de la robotique d'Asimov.

Problèmes de sécurité

Un seul agent d’IA est relativement facile à contrôler ; mais un million d’agents IA agissant de manière interactive est beaucoup plus difficile, même avec des agents contrôlants. À cela, il faut ajouter la possibilité que certains agents renforcent par erreur les erreurs d’autres agents. C'est-à-dire qu'une chaîne d'erreurs communes peut survenir à la suite de l'association. Une potentielle cascade d’erreurs dans un processus très accéléré, sans temps de pause.

D’un autre côté, il y a des problèmes de sécurité croissants. L'interconnexion de plusieurs agents génère des points supplémentaires susceptibles d'être attaqués. Chaque agent peut avoir son agent malveillant prêt à usurper son identité et à entrer dans le réseau d'agents IA. Je ne sais pas s'il existe une possibilité d' »agent double », comme dans les réseaux d'espionnage. Dans tous les cas, l’exigence de procédures d’authentification plus strictes et d’une surveillance continue devient ainsi un élément critique. Supervision humaine assumée. Ses promoteurs ne parlent pas du remplacement de l'humain, mais d'une collaboration différente entre l'humain et l'IA, reposant sur la créativité ancienne, les jugements éthiques, l'empathie et la responsabilité de supervision.

Enfin, les conséquences socio-économiques qui pourraient découler de la société des agents IA. Il semble évident que les besoins en main-d'œuvre humaine sont moindres et d'une nature qui combine une spécialisation technique avec une vision stratégique notable. Mais surtout, il sera plus petit.

Juriste spécialisé en « constitutions numériques »

À cette question, les techno-optimistes ont tendance à répondre que de nouveaux emplois seront créés, comme celui de concepteur d’écosystèmes d’agents d’IA, celui de superviseur ou de juriste spécialisé dans les « constitutions numériques » qui posent les bases de ces organisations d’IA ou qui disputent les responsabilités dans les conséquences négatives des décisions automatiquement prises. Une réponse sur les effets sur l'emploi qui, à la fois, semble compréhensible – oui, il y aura de nouveaux emplois – et peu convaincante, puisque les emplois qui seront créés seront bien moins nombreux.

À cela, il faut ajouter la grande inégalité qui se produira entre les sociétés et les grandes entreprises ayant accès à des écosystèmes énormes et diversifiés d’agents d’IA, avec un bond de productivité significatif, et d’autres sociétés et entreprises plus petites ayant un accès moindre ou subordonné à ces écosystèmes. Des questions qui nous amènent au comment de la répartition des rendements de la forte augmentation de la productivité et au comment du pouvoir concentré sur de tels écosystèmes.

Dans moins de dix ans, la relation avec un seul agent IA sera plus obsolète que la connexion internet via modem. Nous interagirons avec des écosystèmes d'agents, dans lesquels chaque agent a accumulé des années de spécialisation. On peut dire que, d’une certaine manière, ils seront devenus professionnels. Une société fonctionnant sur une main-d’œuvre invisible de professionnels experts travaillant en coordination. La grande complexité sera également invisible. Tout semblera plus facile : illusion de facilité ? Incorporation définitive du solutionnisme technologique dénoncé par Mozorov ?

La société des agents de l’IA est là. Une société qui prend des décisions de manière organisée et immédiate. Reviendra-t-il aux humains de décider comment organiser et associer les agents d’IA et comment s’associer à ces sociétés d’agents d’IA ?