Pourquoi les données vérifiables sont la couche manquante de l'IA : Walrus

Les modèles d’IA deviennent plus rapides, plus grands et plus performants. Mais alors que leurs résultats commencent à façonner les décisions dans les domaines de la finance, de la santé, des logiciels d’entreprise, etc., une question importante se pose : pouvons-nous réellement vérifier les données et les processus derrière ces résultats ?

« La plupart des systèmes d'IA s'appuient sur des pipelines de données que personne en dehors de l'organisation ne peut vérifier de manière indépendante », explique Rebecca Simmonds, PDG de la Walrus Foundation, une société qui soutient le développement de la couche de données décentralisée Walrus.

Comme il l'explique, il n'existe aucun moyen standard de confirmer l'origine des données, si elles ont été manipulées ou ce qui a été autorisé à être utilisé dans le pipeline. Cet écart crée non seulement des risques de non-conformité, mais sape également la confiance dans les résultats produits par l’IA.

« Il s'agit de passer du 'faites-nous confiance' au 'vérifiez ceci' », a déclaré Simmonds, « et ce changement est particulièrement important dans les environnements financiers, juridiques et réglementés où l'auditabilité n'est pas facultative ».

Pourquoi les enregistrements centralisés ne suffisent pas

De nombreuses implémentations d’IA reposent aujourd’hui sur des infrastructures centralisées et des journaux d’audit internes. Bien que ceux-ci puissent offrir une certaine visibilité, ils nécessitent néanmoins une confiance dans l’entité qui exploite le système.

Les parties prenantes externes n’ont d’autre choix que de croire que les enregistrements n’ont pas été modifiés. Avec une couche de données décentralisée, l’intégrité est ancrée cryptographiquement, de sorte que des parties indépendantes peuvent la vérifier sans dépendre d’un seul opérateur.

C'est là que Walrus brille, en tant que base de données au sein d'une architecture plus large connue sous le nom de Sui Stack. Sui lui-même est un réseau blockchain de couche 1 qui enregistre les événements politiques et les reçus en chaîne, coordonnant l'accès et enregistrant les activités vérifiables sur l'ensemble de la pile.

« Walrus est la couche de disponibilité et de provenance des données, où chaque ensemble de données reçoit un identifiant unique dérivé de son contenu », a expliqué Simmonds. « Si les données changent ne serait-ce que d'un seul octet, l'ID change. Cela permet de vérifier que les données dans un pipeline de traitement sont exactement ce qu'elles prétendent être, qu'elles n'ont pas été modifiées et qu'elles sont toujours disponibles. »

D'autres composants de la pile Sui s'appuient sur cette fondation. Nautilus permet aux développeurs d'exécuter des charges de travail d'IA dans un environnement hors chaîne sécurisé et de générer des tests qui peuvent être vérifiés en chaîne, tandis que Seal gère le contrôle d'accès, permettant aux équipes de définir et d'appliquer qui peut afficher ou déchiffrer les données, et dans quelles conditions.

« Sui relie ensuite le tout en enregistrant les règles et les tests sur la chaîne », a déclaré Simmonds. « Cela fournit aux développeurs, aux auditeurs et aux utilisateurs un enregistrement partagé qu'ils peuvent vérifier de manière indépendante. »

« Il n'existe pas de couche unique qui résout complètement le problème de la confiance en l'IA », a-t-il ajouté. « Mais ensemble, ils forment quelque chose d'important : une base de données vérifiable pour les flux de travail de l'IA : des données avec une provenance vérifiable, un accès que vous pouvez imposer, des calculs dont vous pouvez attester et un enregistrement immuable de la façon dont tout cela a été utilisé. »

Plusieurs équipes d'IA ont déjà choisi Walrus comme plate-forme de données vérifiables, a déclaré Simmonds, notamment la plate-forme d'agents d'IA open source elizaOS et la plate-forme d'intelligence d'IA native blockchain Zark Lab.

Vérifiable, pas infaillible

L’expression « IA vérifiable » peut paraître ambitieuse. Mais Simmonds fait attention à ce qu'elle sous-entend et à ce qu'elle ne laisse pas entendre.

« L'IA vérifiable n'explique pas comment un modèle raisonne ou ne garantit pas la véracité de ses résultats », a-t-il déclaré. Mais il peut « ancrer les flux de travail sur des ensembles de données dont la provenance, l’intégrité et la disponibilité sont vérifiables ». Au lieu de se fier aux affirmations des fournisseurs, a-t-il expliqué, les équipes peuvent se référer à un enregistrement cryptographique indiquant quelles données étaient disponibles et autorisées. Lorsque les données sont stockées avec des identifiants dérivés du contenu, chaque modification produit une nouvelle version traçable, permettant à des parties indépendantes de confirmer quelles entrées ont été utilisées et comment elles ont été manipulées.

Cette distinction est cruciale. La vérifiabilité ne consiste pas à promettre des résultats parfaits. Il s'agit de rendre le cycle de vie des données transparent et vérifiable : la manière dont elles ont été stockées, consultées et modifiées. Et à mesure que les systèmes d’IA évoluent dans des environnements réglementés ou à haut risque, cette transparence devient de plus en plus importante.

« La finance est un cas d'utilisation convaincant », a déclaré Simmonds, dans lequel de « petites erreurs de données » peuvent se transformer en pertes réelles grâce à des pipelines de données opaques. « Être capable de démontrer la provenance et l'intégrité des données tout au long de ces pipelines est une étape importante vers le type de confiance qu'exigent ces systèmes », a-t-il ajouté, notant que « cela ne se limite pas à la finance. Tout domaine où les décisions ont des conséquences, comme les soins de santé ou le droit, bénéficie d'une infrastructure capable de montrer quelles données étaient disponibles et autorisées ».

Un point de départ pratique

Pour les équipes intéressées à expérimenter une infrastructure vérifiable, Simmonds suggère de commencer par la couche de données comme « première étape » plutôt que de tenter une refonte complète.

« De nombreuses mises en œuvre de l'IA reposent sur un stockage centralisé qui est très difficile à auditer de manière indépendante par des parties prenantes externes », a-t-il déclaré. « En déplaçant les ensembles de données critiques vers un stockage axé sur le contenu comme Walrus, les organisations peuvent établir la provenance et la disponibilité vérifiables des données, qui constituent la base sur laquelle tout le reste est construit. »

Au cours de l'année à venir, l'un des objectifs de Walrus sera d'élargir le nombre de partenaires et de constructeurs sur la plateforme. « Certains des plus excitants sont ce que nous voyons les développeurs construire, depuis les systèmes de mémoire d'agents d'IA décentralisés jusqu'aux nouveaux outils de prototypage et de publication vers des infrastructures vérifiables », a-t-il déclaré. « À bien des égards, la communauté ouvre la voie de manière organique. »

« Nous considérons Walrus comme la couche de données dans une pile d'IA beaucoup plus vaste », a ajouté Simmonds. « Nous n'essayons pas d'être la réponse complète, nous construisons la base vérifiable dont dépend le reste de la pile. Lorsque cette couche est correcte, de nouveaux types de flux de travail d'IA deviennent possibles. »

Trezor One – Portefeuille Matériel de Crypto-Monnaie – Le Stockage à Froid Le Plus Fiable pour Bitcoin, Ethereum, ERC20 et Bien d’autres (Noire)