O fundador da Geo, Yaniv Tal, identificou quatro fraquezas na informação online que, segundo ele, tornam as respostas de IA não confiáveis: perda de proveniência, autoridade achatada, desacordo oculto e erros repetidos gerados por modelos.
Resumo
- A Geo separa afirmações, fontes e evidências de apoio em Espaços de conhecimento governados pela comunidade.
- Tal diz que o julgamento humano pode ajudar a classificar raciocínios confiáveis sem remover visões concorrentes.
- Um estudo da Nature descobriu que o treinamento repetido em material sintético pode causar colapso do modelo.
- O NIST recomenda rastrear fontes de treinamento e incorporar feedback humano especializado em sistemas de IA.
O fundador da Geo, Yaniv Tal, disse ao crypto.news que respostas não confiáveis de IA geralmente começam com o material que os modelos recebem, argumentando que a internet foi projetada para distribuir informações em vez de preservar sua autoridade, origem ou responsabilidade.
“A IA não tem um problema de verdade, a internet tem”, disse Tal.
De acordo com Tal, a informação perde contexto crítico quando sites a copiam e republicam. Uma afirmação pode passar por várias páginas antes de entrar em um conjunto de treinamento, deixando um modelo com a declaração, mas sem um caminho claro de volta à sua fonte original.
A autoridade também se torna difícil de medir quando um artigo de pesquisa, um anúncio de empresa e uma postagem anônima em fórum entram no mesmo pipeline de dados como texto. Tal disse que os modelos podem então tratar material com diferentes padrões de evidência como se tivessem peso semelhante.
“A proveniência colapsa. Uma afirmação é copiada, reafirmada e copiada novamente até que a fonte original seja irrecuperável”, disse ele.
Fundador da Geo identifica quatro falhas por trás de respostas não confiáveis de IA
O desacordo cria outro problema porque os modelos de linguagem frequentemente combinam posições concorrentes em uma única resposta. Tal disse que essa compressão pode ocultar disputas genuínas entre especialistas qualificados, dando aos usuários uma única resposta confiante sem mostrar que alternativas confiáveis existem.
A quarta fraqueza surge quando o material gerado por IA retorna ao suprimento de dados usado por modelos posteriores. Erros podem sobreviver à publicação repetida, enquanto artigos, postagens e resumos sintéticos tornam mais difícil localizar o material produzido por humanos do qual uma afirmação se originou.
“Os modelos treinam cada vez mais com a saída de outros modelos, então os erros não apenas persistem, eles amplificam”, disse Tal.
Pesquisas independentes documentaram um risco relacionado. Um estudo da Nature de 2024 examinou o que acontece quando modelos generativos aprendem repetidamente com material produzido por modelos anteriores. Os pesquisadores descreveram o “colapso do modelo” como um processo no qual os sistemas gradualmente perdem informações sobre a distribuição original dos dados.
Material menos comum começou a desaparecer durante os estágios iniciais dos experimentos, de acordo com o artigo, enquanto gerações posteriores de modelos produziram distribuições com pouca semelhança com os dados de origem. Os pesquisadores disseram que o acesso a informações originais produzidas por humanos continua importante à medida que o material gerado por IA se espalha pela internet.
Tal não classifica as quatro fraquezas como falhas confinadas ao design do modelo. Em seu relato, os modelos reproduzem falhas já embutidas em seu material de treinamento, incluindo fontes ausentes e falta de distinções visíveis entre evidência, opinião e promoção.
Verificação humana classificaria afirmações sem remover o desacordo
A resposta proposta pela Geo começa separando uma declaração de seu autor e das evidências que a sustentam. Relações entre entradas podem mostrar se um argumento apoia outro, contradiz ou responde diretamente a um ponto disputado.
Uma vez que esses links são registrados, a Geo pode ordenar argumentos por sua força avaliada, mantendo material concorrente abaixo deles, disse Tal. A estrutura destina-se a manter o desacordo disponível sem exibir cada contribuição como um feed de comentários indiferenciado.
“Pluralismo não precisa significar ruído”, disse Tal. “Achamos que várias perspectivas concorrentes bem estruturadas são frequentemente a resposta mais honesta.”
A Geo organiza informações por meio de comunidades independentes chamadas Espaços. Seu site atual lista Espaços iniciais cobrindo cripto, saúde, IA, educação, assuntos mundiais e política dos EUA.
Os membros podem contribuir e participar de discussões, enquanto pessoas com conhecimento relevante podem se candidatar para se tornarem editores. De acordo com a Geo, seu programa de curadoria pede que os participantes avaliem fontes, conectem argumentos e adicionem informações estruturadas a um grafo de conhecimento aberto.
O modelo foi desenvolvido a partir do Geo Genesis, que entrou em acesso antecipado em janeiro de 2025. Como relatado anteriormente, sua estrutura de governança padrão dividia os participantes em Editores e Membros. Os editores recebiam autoridade de voto, enquanto os membros podiam contribuir com informações para Espaços individuais.
Construído sobre a estrutura de governança Aragon OSx, o Geo Genesis seguiu o lançamento do GRC-20, um padrão para representar conhecimento conectado. O Graph disse em junho de 2025 que o GRC-20 poderia permitir que comunidades publicassem informações estruturadas onchain e as recuperassem por meio de subgrafos e Substreams.
Tal, que cofundou o The Graph antes de iniciar a Geo, disse que a experiência não seria atribuída por uma autoridade central sob o sistema proposto. Os contribuidores construiriam uma reputação por meio de seu trabalho, e a Geo pretende que esse registro acompanhe uma pessoa entre Espaços.
“O julgamento humano é agora o insumo escasso, não o redundante. As máquinas geram mais conteúdo do que as pessoas podem processar, e quase nada disso tem alguém responsável por sua veracidade.”
A governança comunitária ainda enfrenta um problema de identidade
Uma rede de conhecimento administrada por humanos ainda deve determinar se os contribuidores são genuínos, qualificados e independentes. Sistemas de governança abertos podem enfrentar ataques Sybil, nos quais um participante cria múltiplas identidades para ganhar influência sobre votos, classificações ou recompensas.
Um explicador de junho de 2026 examinou como verificações biométricas, redes de confiança social e ferramentas de identidade de conhecimento zero tentam verificar pessoas únicas. Cada método envolve trade-offs entre privacidade, resistência a ataques, acessibilidade e controle, enquanto a IA pode ajudar atacantes a criar personas convincentes a baixo custo.
Tal disse que a Geo dependeria de registros de contribuição e comunidades específicas de domínio, em vez de permitir que material anônimo tenha o mesmo status que alegações ligadas a pessoas com históricos públicos. Os editores se candidatariam por meio de Espaços individuais, e os membros participariam da governança dos assuntos que seguem.
“Ter algo em jogo sem apostas financeiras muda a qualidade do que as pessoas estão dispostas a colocar seu nome”, disse Tal.
A abordagem não elimina a necessidade de decidir quem seleciona os editores, como as comunidades resolvem manipulação coordenada ou se a experiência adquirida em um assunto deve ter peso em outro. Tal descreveu o problema do porteiro como real, mas argumentou que Espaços independentes impediriam que uma instituição controlasse todos os campos.
O envolvimento humano também ganhou atenção na segurança cripto, onde ferramentas automatizadas podem detectar atividades maliciosas, mas os usuários ainda autorizam transações. Em maio de 2026, um relatório de segurança da Ledger descreveu a verificação manual e exibições claras de transações como salvaguardas contra phishing assistido por IA, interfaces falsas e golpes automatizados.
Registros onchain separam transações de alegações ao redor
Cripto é um dos primeiros Espaços da Geo porque a atividade blockchain oferece um teste direto da diferença entre registros verificáveis e interpretação humana, disse Tal.
Um blockchain pode confirmar que uma transação ocorreu em um endereço e bloco registrados. Não pode, sem evidências adicionais, estabelecer quem controla o endereço, por que os fundos foram movidos, se a atividade foi orgânica ou o que um projeto planeja fazer a seguir.
“Dados onchain são verificáveis por construção. Uma transação aconteceu ou não”, disse Tal. “Tudo ao redor disso são alegações.”
Anúncios de projetos, descrições de parcerias, previsões de mercado e explicações de movimentos de tokens, portanto, exigem tratamento separado, de acordo com Tal. A Geo pretende anexar tais alegações a contribuidores nomeados e preservar seus registros, incluindo declarações anteriores que se mostraram erradas.
A atividade promocional torna a distinção especialmente importante nos mercados de ativos digitais, onde as equipes podem apresentar métricas selecionadas ao lado de dados de transação verificáveis. Tal disse que uma camada de conhecimento confiável deve rotular as categorias em vez de apresentar ambas na mesma voz.
Orientação dos EUA também exige proveniência e revisão humana
Para desenvolvedores e empresas dos EUA que implantam IA generativa, o Instituto Nacional de Padrões e Tecnologia recomendou vários controles que se sobrepõem a partes do argumento de Tal.
O Perfil de IA Generativa do NIST, publicado em julho de 2024, aconselha as organizações a documentar as fontes dos dados de treinamento, monitorar a origem do material gerado e avaliar o feedback entre sistemas de proveniência e revisores humanos. A estrutura voluntária também pede que especialistas do domínio e comunidades afetadas participem de certas avaliações.
Os padrões de proveniência de conteúdo oferecem outro método para registrar a origem do material digital. A Coalizão para Proveniência e Autenticidade de Conteúdo usa Credenciais de Conteúdo com assinatura criptográfica para preservar informações sobre quem criou ou alterou um ativo e como ele foi editado.
Sob a especificação da C2PA, no entanto, a proveniência validada não determina se uma declaração anexada é boa, ruim ou verdadeira. O padrão verifica se as afirmações estão conectadas ao ativo subjacente, estão corretamente formadas e estão livres de adulteração.
