Vitalik Buterin, créateur de Éthereumprévient que l’intelligence artificielle est sur le point de cesser d’être un simple moteur de recherche et de devenir des systèmes dotés d’une autonomie croissante. Pour éviter de perdre le contrôle de nos informations et de nos actifs, le développeur propose de rompre la dépendance au cloud et d'évoluer vers un modèle d'IA auto-souverain.
Dans un long article intitulé « My Self-Sovereign/Local/Private/Secure LLM Setup, April 2026 », Buterin préconise d'exécuter des modèles de langage directement sur le matériel de l'utilisateur, minimisant ainsi la dépendance aux serveurs d'entreprise. Face à l’émergence d’agents autonomes capables de modifier des configurations critiques ou de filtrer des données sans que l’utilisateur ne s’en aperçoive, il propose de repenser ces systèmes en s’inspirant de principes similaires à ceux des contrats intelligents : isolement, autorisations minimales et contrôle strict.
Une IA autonome, locale et centrée sur l'utilisateur
En ce sens, Buterin propose une IA autosouveraine, locale et centrée sur l’utilisateur. Selon leur proposition, les systèmes d’IA ne devraient pas dépendre de grandes plateformes cloud, mais plutôt fonctionner directement sur des appareils personnels, gardant ainsi le contrôle total des données et des décisions entre les mains de l’utilisateur.
La mort du clic Est-il temps d’abandonner les systèmes traditionnels de mesure d’audience ?
Dans leur modèle, l’IA cesse d’être un service externe et devient une extension directe de l’individu. Les modèles linguistiques ainsi que les informations personnelles, l'historique et les outils fonctionnent localement, évitant ainsi l'exposition constante des données à des tiers.
L’architecture de cette IA autosouveraine repose sur un système modulaire rappelant le fonctionnement de la blockchain et surgit comme une réponse directe à une évolution récente de l’industrie : le passage de simples chatbots à des agents autonomes. Comme l'explique Buterin, ces nouveaux systèmes ne se limitent plus à répondre à des questions, mais exécutent plutôt des tâches complexes sur de longues périodes, en utilisant plusieurs outils et en prenant des décisions par eux-mêmes.
Risques du modèle actuel
Le créateur d'Ethereum cite des projets comme Griffe Ouvertequi ont joué un rôle clé dans cette évolution et sont devenus l'un des référentiels à la croissance la plus rapide sur GitHub, mais qui montrent également les risques du modèle actuel. Selon Buterin, ces agents peuvent modifier des configurations critiques sans intervention humaine, ajouter de nouveaux canaux de communication ou modifier leurs propres instructions internes, ouvrant ainsi la porte à des comportements imprévisibles.
De plus, lors de l'interaction avec du contenu externe, tel que des pages Web, ils peuvent être manipulés via des instructions cachées qui les amènent à télécharger et à exécuter du code malveillant sur le système de l'utilisateur. Lors de tests réels, il a été démontré que ces systèmes peuvent même extraire des informations sensibles et les envoyer à des serveurs externes sans que l'utilisateur s'en rende compte. Il a également été observé qu'un pourcentage important des outils disponibles pour ces agents contiennent des instructions malveillantes.
Pour Buterin, le problème n’est pas seulement technique, mais structurel, puisque l’écosystème actuel donne la priorité à la capacité et à l’automatisation plutôt qu’à la sécurité. Compte tenu de ce scénario, le développeur propose de repenser complètement ce type d'agents sous un modèle plus restrictif, dans lequel des modèles locaux, exécutés avec des outils tels que appeler.cppun projet open source créé par Gueorgui Gerganov, fonctionnent dans des environnements isolés, avec des autorisations minimales et sous une surveillance constante, évitant que leur autonomie croissante ne devienne un risque pour l'utilisateur.
La sécurité
Sur cette base, sont construits des agents capables d'effectuer des tâches complexes, comme analyser des documents, programmer ou interagir avec différentes applications, mais toujours à travers des outils spécifiques et avec un accès clairement défini. À cela s’ajoutent des bases de connaissances stockées hors ligne, qui réduisent le besoin de consulter Internet et limitent l’exposition des données personnelles.
L'ensemble du système est articulé selon des règles d'accès et d'isolement strictes, où chaque composant ne peut interagir qu'avec des ressources autorisées, lui permettant de fonctionner de manière indépendante mais coordonnée. L’objectif est de minimiser la confiance dans les tiers et de garantir que le contrôle reste toujours entre les mains de l’utilisateur.
Un autre pilier central de l’approche de Buterin est la sécurité. Pour éviter les abus ou les échecs, il propose que chaque action de l’IA soit limitée par des environnements isolés et des autorisations spécifiques, de la même manière que fonctionnent les contrats intelligents sur Ethereum. Ainsi, un agent peut accéder à certaines données ou exécuter des tâches spécifiques, mais ne peut pas agir en dehors des limites établies ni effectuer des actions sensibles sans supervision. Dans les opérations critiques, telles que l'envoi de messages ou de transactions, un système de confirmation humaine obligatoire est introduit.
Collaboration entre l'humain et la machine
Dans ce contexte, Buterin suggère que les principes de l'écosystème de Éthereum Ils peuvent servir de base conceptuelle pour renforcer la confiance dans les systèmes d’IA, notamment dans la gestion des actifs numériques. Il propose également un modèle de sécurité basé sur la collaboration entre l'humain et la machine, où les deux agissent comme un double système de vérification pour réduire les erreurs et les attaques.
Malgré son engagement en faveur du local, Buterin reconnaît que l’IA actuelle dépend encore dans de nombreux cas de modèles plus avancés hébergés dans le cloud. Pour intégrer ces services sans compromettre la confidentialité, il propose l'utilisation de technologies telles que des preuves à connaissance nulle, des réseaux d'anonymisation et des environnements d'exécution sécurisés, qui permettraient d'effectuer des requêtes externes sans révéler l'identité ou les données de l'utilisateur.
Un autre élément clé de sa proposition est la réduction de la dépendance à Internet. L’IA autosouveraine s’appuie sur des bases de connaissances stockées localement, notamment de la documentation technique et du contenu encyclopédique, permettant de répondre à de nombreuses requêtes sans avoir recours à des services externes. Cela améliore non seulement la confidentialité, mais réduit également l’exposition aux attaques et le suivi de l’activité en ligne.
Une IA auto-souveraine
En bref, la proposition de Buterin présente une alternative directe au modèle dominant du secteur, basé sur des plateformes centralisées et un traitement cloud. Sa proposition consiste à appliquer à l’intelligence artificielle des principes tels que la décentralisation, la résistance à la censure et le contrôle individuel. Bien qu’il reconnaisse que la technologie n’est pas encore entièrement préparée à ce changement, il estime que l’évolution vers une IA autosouveraine sera essentielle pour préserver la vie privée au cours de la prochaine décennie.
Voir l’article original en espagnol
