La vérification humaine peut-elle rendre les réponses de l’IA plus fiables ? Le fondateur de Geo explique

Le fondateur de Geo, Yaniv Tal, a identifié quatre faiblesses dans les informations en ligne qui, selon lui, rendent les réponses de l'IA peu fiables : provenance perdue, autorité aplatie, désaccord caché et erreurs répétées générées par le modèle.

Le fondateur de Geo, Yaniv Tal, a déclaré à crypto.news que les réponses peu fiables de l'IA commencent souvent par les modèles matériels reçus, arguant qu'Internet a été conçu pour distribuer des informations plutôt que pour préserver son autorité, son origine ou sa responsabilité.

« L'IA n'a pas de problème de vérité, Internet en a un », a déclaré Tal.

Selon Tal, les informations perdent leur contexte critique à mesure que les sites Web les récupèrent et les republient. Une revendication peut parcourir plusieurs pages avant d'entrer dans un ensemble d'apprentissage, laissant un modèle avec la déclaration mais sans chemin clair vers sa source d'origine.

L’autorité devient également difficile à mesurer lorsqu’un document de recherche, une annonce d’entreprise et un message anonyme sur un forum entrent dans le même pipeline de données qu’un texte. Tal a déclaré que les modèles peuvent alors traiter des documents avec des normes de preuve différentes comme s'ils avaient le même poids.

« La provenance s'effondre. Une réclamation est grattée, reformulée et regrattée jusqu'à ce que la source originale soit irrécupérable », a-t-il déclaré.

Le fondateur de Geo identifie quatre échecs derrière des réponses peu fiables de l'IA

Le désaccord crée un autre problème car les modèles linguistiques combinent souvent des positions concurrentes en une seule réponse. Tal a déclaré qu'une telle compression peut cacher de véritables différends entre experts qualifiés, donnant aux utilisateurs une seule réponse sûre sans montrer qu'il existe des alternatives crédibles.

La quatrième faiblesse apparaît lorsque le matériel généré par l’IA revient à la source de données utilisée par les modèles ultérieurs. Les erreurs peuvent survivre à des publications répétées, tandis que les articles, publications et résumés synthétiques rendent plus difficile la localisation du matériel produit par l’homme à l’origine d’une affirmation.

« Les modèles s'entraînent de plus en plus sur les résultats d'autres modèles, de sorte que les erreurs ne persistent pas, elles s'amplifient », a déclaré Tal.

Des recherches indépendantes ont documenté un risque connexe. Une étude Nature de 2024 a examiné ce qui se passe lorsque des modèles génératifs apprennent à plusieurs reprises à partir du matériel produit par des modèles antérieurs. Les chercheurs ont décrit « l’effondrement du modèle » comme un processus par lequel les systèmes perdent progressivement des informations sur la distribution originale des données.

Selon l'article, des éléments moins courants ont commencé à disparaître au cours des premières étapes des expériences, tandis que les générations de modèles ultérieures ont produit des distributions ne ressemblant que peu aux données sources. Les chercheurs ont déclaré que l’accès aux informations originales produites par l’homme reste important à mesure que le matériel généré par l’IA se propage sur Internet.

Tal ne classe pas les quatre faiblesses comme des échecs limités à la conception du modèle. Dans son récit, les modèles reproduisent des défauts déjà intégrés dans leur matériel de formation, notamment des sources manquantes et un manque de distinctions visibles entre preuves, opinions et promotions.

La vérification humaine classerait les affirmations sans éliminer les désaccords

La réponse proposée par Geo commence par séparer une déclaration de son auteur et des preuves qui la soutiennent. Les relations entre les entrées peuvent montrer si un argument en soutient un autre, le contredit ou répond directement à un point controversé.

Une fois ces liens enregistrés, Geo peut classer les arguments en fonction de leur force évaluée tout en conservant les éléments concurrents en dessous, a déclaré Tal. La structure est destinée à garder les désaccords disponibles sans afficher chaque contribution sous la forme d'un flux de commentaires indifférencié.

« Le pluralisme n'est pas nécessairement synonyme de bruit », a déclaré Tal. « Nous pensons que plusieurs perspectives concurrentes bien structurées constituent souvent la réponse la plus honnête. »

Geo organise l'information à travers des communautés indépendantes appelées Spaces. Son site Web actuel répertorie les premiers espaces couvrant la cryptographie, la santé, l'IA, l'éducation, les affaires mondiales et la politique américaine.

Les membres peuvent contribuer et participer aux discussions, tandis que les personnes possédant des connaissances pertinentes peuvent postuler pour devenir rédacteurs. Selon Geo, son programme de conservation demande aux participants d'évaluer les sources, de relier les arguments et d'ajouter des informations structurées à un graphe de connaissances ouvert.

Le modèle a été développé à partir de Geo Genesis, qui est entré en accès anticipé en janvier 2025. Comme indiqué précédemment, sa structure de gouvernance par défaut divisait les participants en éditeurs et membres. Les rédacteurs recevaient un droit de vote, tandis que les membres pouvaient contribuer des informations à des espaces individuels.

Construit sur le cadre de gouvernance Aragon OSx, Geo Genesis a suivi la sortie de GRC-20, une norme de représentation des connaissances connectées. The Graph a déclaré en juin 2025 que GRC-20 pourrait permettre aux communautés de publier des informations structurées en chaîne et de les récupérer via des sous-graphiques et des sous-flux.

Tal, qui a cofondé The Graph avant de lancer Geo, a déclaré que l'expertise ne serait pas attribuée par une seule autorité centrale dans le cadre du système proposé. Les contributeurs se bâtiraient une réputation grâce à leur travail, et Geo a l'intention que ce record suive une personne entre les espaces.

« Le jugement humain est désormais l'apport le plus rare, et non le plus redondant. Les machines génèrent plus de contenu que les gens ne peuvent en traiter, et presque aucun d'entre eux n'a de responsable de sa véracité. »

La gouvernance communautaire reste confrontée à un problème d’identité

Un réseau de connaissances géré par des humains doit encore déterminer si les contributeurs sont authentiques, qualifiés et indépendants. Les systèmes de gouvernance ouverts peuvent faire face à des attaques Sybil, dans lesquelles un participant crée plusieurs identités pour influencer le vote, les classements ou les récompenses.

Un explicatif de juin 2026 a examiné comment les contrôles biométriques, les réseaux sociaux de confiance et les outils d'identité sans connaissance tentent de vérifier des personnes uniques. Chaque méthode implique des compromis entre confidentialité, résistance aux attaques, accessibilité et contrôle, tandis que l’IA peut aider les attaquants à créer des personnalités convaincantes à faible coût.

Tal a déclaré que Geo s'appuierait sur les enregistrements de contribution et les communautés spécifiques à un domaine plutôt que de permettre au matériel anonyme d'avoir le même statut que les revendications attachées aux personnes ayant une histoire publique. Les éditeurs postuleraient via des espaces individuels et les membres participeraient à la gouvernance des sujets qu'ils suivent.

« La peau dans le jeu sans enjeux financiers change la qualité de ce sur quoi les gens sont prêts à mettre leur nom », a déclaré Tal.

Cette approche ne supprime pas la nécessité de décider qui sélectionne les éditeurs, comment les communautés résolvent les manipulations coordonnées ou si l’expertise acquise dans un sujet doit avoir du poids dans un autre. Tal a décrit le problème du contrôle d'accès comme étant réel, mais a fait valoir que des espaces indépendants empêcheraient une institution de contrôler tous les domaines.

L’implication humaine a également attiré l’attention dans le domaine de la sécurité cryptographique, où les outils automatisés peuvent détecter des activités malveillantes, mais les utilisateurs autorisent toujours les transactions. En mai 2026, un rapport de sécurité de Ledger décrivait la vérification manuelle et l'affichage clair des transactions comme protection contre le phishing assisté par l'IA, les fausses interfaces et les escroqueries automatisées.

Onchain enregistre les transactions séparées des réclamations environnantes

Crypto est l'un des premiers espaces de Geo car l'activité blockchain offre un test direct de la différence entre les enregistrements vérifiables et l'interprétation humaine, a déclaré Tal.

Une blockchain peut confirmer qu'une transaction a eu lieu à une adresse enregistrée et bloquer. Il ne peut pas, sans preuves supplémentaires, établir qui contrôle l’adresse, pourquoi les fonds ont été déplacés, si l’activité était organique ou ce qu’un projet prévoit de faire ensuite.

« Les données en chaîne sont vérifiables par construction. Une transaction a eu lieu ou non », a déclaré Tal. « Tout ce qui l'entoure, ce sont des revendications. »

Selon Tal, les annonces de projets, les descriptions de partenariats, les prévisions de marché et les explications des mouvements de jetons nécessitent donc un traitement séparé. Geo a l'intention de joindre ces réclamations aux contributeurs nommés et de conserver leurs dossiers, y compris les déclarations antérieures qui se sont révélées fausses.

L'activité promotionnelle rend cette distinction particulièrement importante sur les marchés d'actifs numériques, où les équipes peuvent présenter des mesures sélectionnées à côté des données de transaction vérifiables. Tal a déclaré qu'une couche de connaissances digne de confiance devrait étiqueter les catégories plutôt que de présenter les deux de la même manière.

Les directives américaines appellent également à la provenance et à un examen humain

Pour les développeurs américains et les entreprises déployant l’IA générative, le National Institute of Standards and Technology a recommandé plusieurs contrôles qui recoupent en partie l’argument de Tal.

Le Generative AI Profile du NIST, publié en juillet 2024, conseille aux organisations de documenter les sources de données de formation, de surveiller l'origine du matériel généré et d'évaluer les retours entre les systèmes de provenance et les évaluateurs humains. Le cadre volontaire appelle également des experts du domaine et des communautés concernées à participer à certaines évaluations.

Les normes de provenance du contenu offrent une autre méthode pour enregistrer l’origine du matériel numérique. La Coalition pour la provenance et l'authenticité du contenu utilise des informations d'identification de contenu signées cryptographiquement pour conserver les informations sur la personne qui a créé ou modifié un élément et sur la manière dont il a été modifié.

Cependant, selon la spécification C2PA, la provenance validée ne détermine pas si une revendication jointe est bonne, mauvaise ou véridique. La norme vérifie que les assertions sont liées à l'actif sous-jacent, correctement formées et exemptes de falsification.