TLDR :
- Vitalik Buterin soutient que l’IA utilisée correctement peut renforcer la gouvernance démocratique plutôt que d’en centraliser le contrôle.
- Les agents personnels d'IA pourraient voter au nom d'un utilisateur en s'appuyant sur ses écrits, son historique et ses préférences déclarées.
- Les outils de conversation publique peuvent regrouper les points de vue de nombreux participants avant de leur demander de peser sur les décisions.
- Le calcul multipartite permet de prendre des décisions de gouvernance privée sans exposer les données sensibles à un seul participant.
La gouvernance de l’IA est au centre d’une nouvelle discussion suscitée par le co-fondateur d’Ethereum, Vitalik Buterin. Il soutient que l’IA, lorsqu’elle est appliquée correctement, peut faire progresser la gouvernance démocratique et décentralisée plutôt que de la remplacer.
Son message aborde un problème de longue date : la plupart des gens manquent de temps pour participer de manière significative aux décisions de gouvernance.
Avec des milliers de choix dans de nombreux domaines, le modèle actuel de délégation concentre le pouvoir entre trop peu de mains.
Les agents personnels d’IA pourraient remodeler la façon dont les gens votent
Buterin propose d'utiliser de grands modèles de langage personnels pour gérer le problème d'attention dans la gouvernance décentralisée.
Un agent de gouvernance personnel pourrait voter au nom d'un utilisateur en étudiant ses écrits, ses conversations et ses préférences déclarées. Cette approche maintient les individus connectés à la prise de décision sans nécessiter une attention constante.
Lorsqu'un agent ne sait pas comment une personne voterait sur une question donnée, il s'arrête et lui demande directement. Cela fournirait également tout le contexte pertinent avant de susciter une réponse. Cette conception évite la délégation aveugle et tient l’individu informé des questions qui comptent.
Le modèle diffère fortement des systèmes de délégation actuels, dans lesquels les partisans perdent souvent leur influence après avoir appuyé sur un seul bouton.
Un agent personnel maintient un alignement continu avec les valeurs de l'utilisateur. Il agit comme un filtre plutôt que comme un substitut au jugement humain.
Les outils de conversation publique peuvent regrouper les vues avec plus de précision
Buterin exprime également des inquiétudes quant à la manière dont les décisions collectives sont actuellement formées. Le simple fait de faire la moyenne des opinions des gens sur la base de leurs propres informations limitées ne produit pas de résultats bien informés.
Un meilleur processus rassemblerait et combinerait les informations de nombreux participants avant de leur demander de répondre.
Il cite des outils tels que les versions améliorées par LLM de pol.is comme une direction à suivre. Ces systèmes résument ce que les gens ont en commun sur la base de leurs paroles réelles. Ils peuvent faire surface sur un terrain partagé qui autrement resterait caché au sein de grands groupes.
De plus, un agent de conversation publique pourrait traduire les opinions d'une personne dans un format partageable sans exposer de détails privés.
Cela rend possible une participation plus large sans obliger les individus à être publiquement identifiables. Les outils d’anonymat utilisant des preuves sans connaissance pourraient appuyer davantage cela.
Le calcul multipartite aborde la prise de décision privée
L’une des faiblesses majeures de la gouvernance démocratique est sa lutte contre les informations confidentielles. Les négociations, les conflits internes et les décisions en matière de rémunération nécessitent souvent un secret que le vote ouvert ne peut pas garantir. Buterin suggère le calcul multipartite comme solution technique à cette tension.
Selon ce modèle, le LLM personnel d'un participant entrerait dans un environnement sécurisé, examinerait les données privées et produirait uniquement un jugement.
Ni le participant ni personne d’autre ne verrait les informations privées elles-mêmes. Les environnements d'exécution de confiance, ou TEE, ont déjà démontré cette approche dans la pratique.
Buterin appelle également à une plus grande utilisation de circuits brouillés pour parvenir à une sécurité cryptographique pure dans au moins les cas bipartites.
La confidentialité, note-t-il, doit couvrir à la fois l'anonymat des participants et le contenu de leurs contributions. Les preuves sans connaissance et les techniques multipartites forment ensemble la base qu’il envisage pour ce système.