Le fondateur de Geo, Yaniv Tal, a identifié quatre faiblesses dans l'information en ligne qui, selon lui, rendent les réponses de l'IA peu fiables : perte de provenance, autorité aplatie, désaccord caché et erreurs répétées générées par les modèles.
Résumé
- Geo sépare les affirmations, les sources et les preuves à l'appui dans des espaces de connaissances régis par la communauté.
- Tal affirme que le jugement humain peut aider à classer les raisonnements crédibles sans supprimer les points de vue concurrents.
- Une étude de Nature a révélé que l'entraînement répété sur du matériel synthétique peut provoquer un effondrement du modèle.
- Le NIST recommande de suivre les sources d'entraînement et d'intégrer les commentaires humains d'experts dans les systèmes d'IA.
Le fondateur de Geo, Yaniv Tal, a déclaré à crypto.news que les réponses peu fiables de l'IA commencent souvent par le matériel que les modèles reçoivent, arguant qu'Internet a été conçu pour distribuer l'information plutôt que pour préserver son autorité, son origine ou sa responsabilité.
« L'IA n'a pas de problème de vérité, c'est Internet qui en a », a déclaré Tal.
Selon Tal, l'information perd un contexte critique lorsque les sites web la récupèrent et la republient. Une affirmation peut passer par plusieurs pages avant d'entrer dans un ensemble d'entraînement, laissant au modèle la déclaration mais aucun chemin clair vers sa source d'origine.
L'autorité devient également difficile à mesurer lorsqu'un article de recherche, une annonce d'entreprise et un message de forum anonyme entrent dans le même pipeline de données en tant que texte. Tal a déclaré que les modèles peuvent alors traiter des matériaux avec des normes de preuve différentes comme s'ils avaient un poids similaire.
« La provenance s'effondre. Une affirmation est récupérée, reformulée, et récupérée à nouveau jusqu'à ce que la source originale soit irrécupérable », a-t-il déclaré.
Le fondateur de Geo identifie quatre défaillances derrière les réponses peu fiables de l'IA
Le désaccord crée un autre problème car les modèles de langage combinent souvent des positions concurrentes en une seule réponse. Tal a déclaré qu'une telle compression peut cacher de véritables différends entre experts qualifiés, donnant aux utilisateurs une réponse unique et confiante sans montrer que des alternatives crédibles existent.
La quatrième faiblesse survient lorsque le matériel généré par l'IA retourne dans l'approvisionnement en données utilisé par les modèles ultérieurs. Les erreurs peuvent survivre à des publications répétées, tandis que les articles, messages et résumés synthétiques rendent plus difficile la localisation du matériel produit par l'homme à partir duquel une affirmation est originaire.
« Les modèles s'entraînent de plus en plus sur les sorties d'autres modèles, donc les erreurs ne persistent pas seulement, elles s'amplifient », a déclaré Tal.
Des recherches indépendantes ont documenté un risque connexe. Une étude de Nature de 2024 a examiné ce qui se passe lorsque les modèles génératifs apprennent de manière répétée à partir de matériel produit par des modèles antérieurs. Les chercheurs ont décrit « l'effondrement du modèle » comme un processus dans lequel les systèmes perdent progressivement des informations sur la distribution des données d'origine.
Le matériel moins courant a commencé à disparaître au début des expériences, selon l'article, tandis que les générations ultérieures de modèles produisaient des distributions ressemblant peu aux données sources. Les chercheurs ont déclaré que l'accès à l'information originale produite par l'homme reste important alors que le matériel généré par l'IA se répand sur Internet.
Tal ne classe pas les quatre faiblesses comme des défaillances confinées à la conception du modèle. Selon lui, les modèles reproduisent des défauts déjà intégrés dans leur matériel d'entraînement, y compris les sources manquantes et un manque de distinctions visibles entre preuve, opinion et promotion.
La vérification humaine classerait les affirmations sans supprimer le désaccord
La réponse proposée par Geo commence par séparer une déclaration de son auteur et des preuves qui la soutiennent. Les relations entre les entrées peuvent montrer si un argument en soutient un autre, le contredit ou répond directement à un point contesté.
Une fois ces liens enregistrés, Geo peut ordonner les arguments selon leur force évaluée tout en conservant le matériel concurrent en dessous, a déclaré Tal. La structure est destinée à maintenir le désaccord disponible sans afficher chaque contribution comme un fil de commentaires indifférencié.
« Le pluralisme ne doit pas signifier le bruit », a déclaré Tal. « Nous pensons que plusieurs perspectives concurrentes bien structurées sont souvent la réponse la plus honnête. »
Geo organise l'information à travers des communautés indépendantes appelées Spaces. Son site web actuel répertorie des Spaces initiaux couvrant la crypto, la santé, l'IA, l'éducation, les affaires mondiales et la politique américaine.
Les membres peuvent contribuer et participer aux discussions, tandis que les personnes ayant des connaissances pertinentes peuvent postuler pour devenir éditeurs. Selon Geo, son programme de conservateurs demande aux participants d'évaluer les sources, de relier les arguments et d'ajouter des informations structurées à un graphe de connaissances ouvert.
Le modèle a été développé à partir de Geo Genesis, qui est entré en accès anticipé en janvier 2025. Comme signalé précédemment, sa structure de gouvernance par défaut divisait les participants en éditeurs et membres. Les éditeurs recevaient l'autorité de vote, tandis que les membres pouvaient contribuer des informations à des espaces individuels.
Construit sur le cadre de gouvernance Aragon OSx, Geo Genesis a suivi la publication de GRC-20, une norme pour représenter les connaissances connectées. The Graph a déclaré en juin 2025 que GRC-20 pourrait permettre aux communautés de publier des informations structurées sur la chaîne et de les récupérer via des sous-graphes et des Substreams.
Tal, qui a cofondé The Graph avant de lancer Geo, a déclaré que l'expertise ne serait pas attribuée par une autorité centrale dans le système proposé. Les contributeurs bâtiraient une réputation grâce à leur travail, et Geo a l'intention que ce dossier suive une personne entre les espaces.
« Le jugement humain est maintenant l'apport rare, pas celui redondant. Les machines génèrent plus de contenu que les gens ne peuvent en traiter, et presque rien de cela n'a quelqu'un de responsable de sa vérité. »
La gouvernance communautaire est toujours confrontée à un problème d'identité
Un réseau de connaissances dirigé par des humains doit toujours déterminer si les contributeurs sont authentiques, qualifiés et indépendants. Les systèmes de gouvernance ouverts peuvent faire face à des attaques Sybil, dans lesquelles un participant crée plusieurs identités pour gagner de l'influence sur les votes, les classements ou les récompenses.
Un explicateur de juin 2026 a examiné comment les vérifications biométriques, les réseaux de confiance sociale et les outils d'identité à connaissance nulle tentent de vérifier les personnes uniques. Chaque méthode implique des compromis entre confidentialité, résistance aux attaques, accessibilité et contrôle, tandis que l'IA peut aider les attaquants à créer des personnages convaincants à faible coût.
Tal a déclaré que Geo s'appuierait sur les dossiers de contribution et les communautés spécifiques à un domaine plutôt que de permettre au matériel anonyme de porter le même statut que les affirmations liées à des personnes ayant des antécédents publics. Les éditeurs postuleraient via des espaces individuels, et les membres participeraient à la gouvernance des sujets qu'ils suivent.
« Avoir un intérêt dans le jeu sans enjeux financiers change la qualité de ce que les gens sont prêts à mettre sous leur nom », a déclaré Tal.
L'approche ne supprime pas la nécessité de décider qui sélectionne les éditeurs, comment les communautés résolvent la manipulation coordonnée, ou si l'expertise acquise dans un sujet devrait avoir du poids dans un autre. Tal a décrit le problème du gardien comme réel, mais a soutenu que des espaces indépendants empêcheraient une seule institution de contrôler tous les domaines.
L'implication humaine a également attiré l'attention dans la sécurité des crypto-monnaies, où les outils automatisés peuvent détecter une activité malveillante, mais les utilisateurs autorisent toujours les transactions. En mai 2026, un rapport de sécurité de Ledger a décrit la vérification manuelle et les affichages de transaction clairs comme des protections contre le hameçonnage assisté par IA, les fausses interfaces et les escroqueries automatisées.
Les enregistrements sur la chaîne séparent les transactions des affirmations environnantes
La crypto est l'un des premiers espaces de Geo car l'activité de la blockchain offre un test direct de la différence entre les enregistrements vérifiables et l'interprétation humaine, a déclaré Tal.
Une blockchain peut confirmer qu'une transaction a eu lieu à une adresse et dans un bloc enregistrés. Elle ne peut pas, sans preuves supplémentaires, établir qui contrôle l'adresse, pourquoi les fonds ont été déplacés, si l'activité était organique, ou ce qu'un projet prévoit de faire ensuite.
« Les données sur la chaîne sont vérifiables par construction. Une transaction a eu lieu ou non », a déclaré Tal. « Tout ce qui l'entoure est des affirmations. »
Les annonces de projets, les descriptions de partenariats, les prévisions de marché et les explications des mouvements de jetons nécessitent donc un traitement séparé, selon Tal. Geo a l'intention d'attacher ces affirmations à des contributeurs nommés et de préserver leurs dossiers, y compris les déclarations antérieures qui se sont avérées fausses.
L'activité promotionnelle rend la distinction particulièrement importante sur les marchés d'actifs numériques, où les équipes peuvent présenter des métriques sélectionnées à côté de données de transaction vérifiables. Tal a déclaré qu'une couche de connaissances digne de confiance devrait étiqueter les catégories plutôt que de présenter les deux de la même voix.
Les directives américaines appellent également à la provenance et à l'examen humain
Pour les développeurs et les entreprises américains déployant l'IA générative, le National Institute of Standards and Technology a recommandé plusieurs contrôles qui recoupent certaines parties de l'argument de Tal.
Le profil de l'IA générative du NIST, publié en juillet 2024, conseille aux organisations de documenter les sources des données d'entraînement, de surveiller l'origine des contenus générés et d'évaluer les retours entre les systèmes de provenance et les examinateurs humains. Le cadre volontaire appelle également les experts du domaine et les communautés concernées à participer à certaines évaluations.
Les normes de provenance du contenu offrent une autre méthode pour enregistrer l'origine des documents numériques. La Coalition pour la provenance et l'authenticité du contenu utilise des informations d'identification de contenu signées cryptographiquement pour préserver les informations sur qui a créé ou modifié un actif et comment il a été édité.
Selon la spécification C2PA, cependant, une provenance validée ne détermine pas si une revendication jointe est bonne, mauvaise ou véridique. La norme vérifie que les affirmations sont liées à l'actif sous-jacent, correctement formées et exemptes de falsification.
