Le cofondateur d'Ethereum, Vitalik Buterin, a identifié les limites de l'attention humaine comme le principal problème qui afflige les organisations autonomes décentralisées (DAO) et les systèmes de gouvernance démocratique.
Résumé
- Buterin affirme que l’attention humaine limitée est le principal défaut de gouvernance des DAO.
- Les agents personnels d’IA pourraient voter en fonction des préférences et du contexte de l’utilisateur.
- Les marchés de suggestions et le MPC peuvent améliorer la confidentialité et les décisions.
Écrivant sur X, Buterin a fait valoir que les participants sont confrontés à des milliers de décisions dans de multiples domaines d'expertise sans disposer de suffisamment de temps ni de compétences pour les évaluer correctement.
La solution habituelle de délégation crée une déresponsabilisation dans laquelle un petit groupe contrôle la prise de décision tandis que les partisans n'ont aucune influence après avoir cliqué sur le bouton de délégation.
Buterin a proposé de grands modèles de langage personnels comme solution au problème de l'attention et a partagé quatre approches. Agents de gouvernance personnelle, agents de conversation publique, marchés de suggestions et calcul multipartite préservant la confidentialité pour les décisions sensibles.
Les LLM personnels peuvent voter en fonction de leurs préférences
Les agents de gouvernance personnels effectueraient tous les votes nécessaires en fonction des préférences déduites des écrits personnels, de l’historique des conversations et des déclarations directes.
Lorsque l'agent est confronté à une incertitude quant aux préférences de vote et considère qu'un problème est important, il doit interroger directement l'utilisateur tout en fournissant tout le contexte pertinent.
Les agents de conversation publique regrouperaient les informations de nombreux participants avant de donner à chaque personne ou à son LLM la possibilité de répondre.
Le système résumerait les vues individuelles, les convertirait en formats partageables sans exposer d'informations privées et identifierait les points communs entre les entrées similaires aux systèmes Polis améliorés par LLM.
Buterin a noté que les bonnes décisions ne peuvent pas provenir d'un « processus linéaire consistant à prendre en compte les points de vue des gens, basés uniquement sur leurs propres informations, et à en faire une moyenne (même quadratique) ». « Les processus doivent d’abord regrouper les informations collectives, puis permettre des réponses éclairées.
Les marchés de suggestions pourraient faire apparaître des propositions de haute qualité
Des mécanismes de gouvernance valorisant des intrants de haute qualité pourraient mettre en place des marchés de prédiction où n’importe qui soumet des propositions tandis que les agents d’IA parient sur des jetons. Lorsque le mécanisme accepte l’entrée, il paie les détenteurs de jetons.
L'approche s'applique aux propositions, aux arguments ou à toute unité de conversation que le système transmet aux participants. La structure du marché crée des incitations financières pour faire ressortir des contributions précieuses.
La gouvernance décentralisée échoue lorsque des décisions importantes nécessitent des informations secrètes, a soutenu Buterin. Les organisations gèrent généralement les conflits contradictoires, les différends internes et les décisions de rémunération en nommant des personnes dotées de grands pouvoirs.
Le calcul multipartite utilisant des environnements d'exécution fiables pourrait intégrer les entrées de nombreuses personnes sans compromettre la confidentialité.
« Vous soumettez votre LLM personnel dans une boîte noire, le LLM voit des informations privées, il porte un jugement sur cette base et ne produit que ce jugement », a expliqué Buterin.
La protection de la vie privée devient importante à mesure que les participants soumettent des contributions plus volumineuses contenant plus d'informations personnelles. L’anonymat nécessite des preuves sans connaissance, ce qui, selon Buterin, devrait être intégré à tous les outils de gouvernance.
Voir l’article original en anglais
