El fundador de Geo, Yaniv Tal, ha identificado cuatro debilidades en la información en línea que, según él, hacen que las respuestas de IA no sean fiables: procedencia perdida, autoridad aplanada, desacuerdo oculto y errores repetidos generados por modelos.
Resumen
- Geo separa afirmaciones, fuentes y evidencia de apoyo dentro de Espacios de conocimiento gobernados por la comunidad.
- Tal dice que el juicio humano puede ayudar a clasificar el razonamiento creíble sin eliminar puntos de vista competidores.
- Un estudio de Nature encontró que el entrenamiento repetido con material sintético puede causar colapso del modelo.
- NIST recomienda rastrear las fuentes de entrenamiento e incorporar retroalimentación humana experta en los sistemas de IA.
El fundador de Geo, Yaniv Tal, dijo a crypto.news que las respuestas de IA poco fiables a menudo comienzan con el material que reciben los modelos, argumentando que Internet fue diseñado para distribuir información en lugar de preservar su autoridad, origen o responsabilidad.
“La IA no tiene un problema de verdad, Internet lo tiene”, dijo Tal.
Según Tal, la información pierde contexto crítico a medida que los sitios web la extraen y la republican. Una afirmación puede pasar por varias páginas antes de entrar en un conjunto de entrenamiento, dejando al modelo con la declaración pero sin una ruta clara de regreso a su fuente original.
La autoridad también se vuelve difícil de medir cuando un artículo de investigación, un anuncio de empresa y una publicación anónima en un foro entran en el mismo proceso de datos como texto. Tal dijo que los modelos pueden entonces tratar material con diferentes estándares de evidencia como si tuviera un peso similar.
“La procedencia colapsa. Una afirmación se extrae, se reformula y se vuelve a extraer hasta que la fuente original es irrecuperable”, dijo.
El fundador de Geo identifica cuatro fallos detrás de las respuestas de IA poco fiables
El desacuerdo crea otro problema porque los modelos de lenguaje a menudo combinan posiciones competidoras en una sola respuesta. Tal dijo que tal compresión puede ocultar disputas genuinas entre expertos calificados, dando a los usuarios una respuesta única y segura sin mostrar que existen alternativas creíbles.
La cuarta debilidad surge cuando el material generado por IA regresa al suministro de datos utilizado por modelos posteriores. Los errores pueden sobrevivir a la publicación repetida, mientras que artículos, publicaciones y resúmenes sintéticos dificultan la localización del material producido por humanos del que se originó una afirmación.
“Los modelos se entrenan cada vez más con la salida de otros modelos, por lo que los errores no solo persisten, se amplifican”, dijo Tal.
La investigación independiente ha documentado un riesgo relacionado. Un estudio de Nature de 2024 examinó qué sucede cuando los modelos generativos aprenden repetidamente de material producido por modelos anteriores. Los investigadores describieron el “colapso del modelo” como un proceso en el que los sistemas pierden gradualmente información sobre la distribución de datos original.
El material menos común comenzó a desaparecer durante las primeras etapas de los experimentos, según el artículo, mientras que las generaciones posteriores de modelos produjeron distribuciones con poca semejanza con los datos fuente. Los investigadores dijeron que el acceso a la información original producida por humanos sigue siendo importante a medida que el material generado por IA se extiende por Internet.
Tal no clasifica las cuatro debilidades como fallos confinados al diseño del modelo. En su relato, los modelos reproducen defectos ya incrustados en su material de entrenamiento, incluyendo fuentes faltantes y una falta de distinciones visibles entre evidencia, opinión y promoción.
La verificación humana clasificaría las afirmaciones sin eliminar el desacuerdo
La respuesta propuesta por Geo comienza separando una declaración de su autor y la evidencia que la respalda. Las relaciones entre entradas pueden mostrar si un argumento apoya a otro, lo contradice o responde directamente a un punto en disputa.
Una vez que esos enlaces se registran, Geo puede ordenar los argumentos por su fuerza evaluada mientras retiene material competidor debajo de ellos, dijo Tal. La estructura está destinada a mantener disponible el desacuerdo sin mostrar cada contribución como un feed de comentarios indiferenciado.
“El pluralismo no tiene que significar ruido”, dijo Tal. “Creemos que varias perspectivas competidoras bien estructuradas son a menudo la respuesta más honesta”.
Geo organiza la información a través de comunidades independientes llamadas Espacios. Su sitio web actual enumera Espacios iniciales que cubren cripto, salud, IA, educación, asuntos mundiales y política de EE. UU.
Los miembros pueden contribuir y participar en discusiones, mientras que las personas con conocimiento relevante pueden postularse para convertirse en editores. Según Geo, su programa de curadores pide a los participantes evaluar fuentes, conectar argumentos y agregar información estructurada a un gráfico de conocimiento abierto.
El modelo se desarrolló a partir de Geo Genesis, que entró en acceso anticipado en enero de 2025. Como se informó anteriormente, su estructura de gobernanza predeterminada dividía a los participantes en Editores y Miembros. Los editores recibían autoridad de voto, mientras que los miembros podían contribuir con información a Espacios individuales.
Construido sobre el marco de gobernanza Aragon OSx, Geo Genesis siguió al lanzamiento de GRC-20, un estándar para representar conocimiento conectado. The Graph dijo en junio de 2025 que GRC-20 podría permitir a las comunidades publicar información estructurada en cadena y recuperarla a través de subgrafos y Substreams.
Tal, quien cofundó The Graph antes de iniciar Geo, dijo que la experiencia no sería asignada por una autoridad central bajo el sistema propuesto. Los contribuyentes construirían una reputación a través de su trabajo, y Geo tiene la intención de que ese registro siga a una persona entre Espacios.
“El juicio humano es ahora el insumo escaso, no el redundante. Las máquinas generan más contenido del que las personas pueden procesar, y casi nada de él tiene a alguien responsable de su veracidad.”
La gobernanza comunitaria aún enfrenta un problema de identidad
Una red de conocimiento dirigida por humanos aún debe determinar si los contribuyentes son genuinos, calificados e independientes. Los sistemas de gobernanza abierta pueden enfrentar ataques Sybil, en los que un participante crea múltiples identidades para ganar influencia sobre votaciones, clasificaciones o recompensas.
Un explicador de junio de 2026 examinó cómo los controles biométricos, las redes de confianza social y las herramientas de identidad de conocimiento cero intentan verificar personas únicas. Cada método implica compensaciones entre privacidad, resistencia a ataques, accesibilidad y control, mientras que la IA puede ayudar a los atacantes a crear personajes convincentes a bajo costo.
Tal dijo que Geo dependería de registros de contribución y comunidades específicas de dominio en lugar de permitir que material anónimo tenga el mismo estatus que las afirmaciones vinculadas a personas con historiales públicos. Los editores se postularían a través de Espacios individuales, y los miembros participarían en el gobierno de los temas que siguen.
“Poner en juego sin apuestas financieras cambia la calidad de lo que las personas están dispuestas a firmar con su nombre”, dijo Tal.
El enfoque no elimina la necesidad de decidir quién selecciona a los editores, cómo las comunidades resuelven la manipulación coordinada, o si la experiencia ganada en un tema debería tener peso en otro. Tal describió el problema del guardián como real, pero argumentó que los Espacios independientes evitarían que una institución controle todos los campos.
La participación humana también ha ganado atención en la seguridad criptográfica, donde las herramientas automatizadas pueden detectar actividad maliciosa, pero los usuarios aún autorizan transacciones. En mayo de 2026, un informe de seguridad de Ledger describió la verificación manual y las pantallas de transacción claras como salvaguardas contra el phishing asistido por IA, interfaces falsas y estafas automatizadas.
Los registros en cadena separan las transacciones de las afirmaciones circundantes
Crypto es uno de los primeros Espacios de Geo porque la actividad blockchain ofrece una prueba directa de la diferencia entre registros verificables e interpretación humana, dijo Tal.
Una blockchain puede confirmar que una transacción ocurrió en una dirección y bloque registrados. No puede, sin evidencia adicional, establecer quién controla la dirección, por qué se movieron los fondos, si la actividad fue orgánica o qué planea hacer un proyecto a continuación.
“Los datos en cadena son verificables por construcción. Una transacción ocurrió o no”, dijo Tal. “Todo lo que la rodea son afirmaciones.”
Los anuncios de proyectos, las descripciones de asociaciones, los pronósticos de mercado y las explicaciones de los movimientos de tokens requieren un tratamiento separado, según Tal. Geo tiene la intención de adjuntar tales afirmaciones a contribuyentes nombrados y preservar sus registros, incluidas declaraciones anteriores que resultaron incorrectas.
La actividad promocional hace que la distinción sea especialmente importante en los mercados de activos digitales, donde los equipos pueden presentar métricas seleccionadas junto a datos de transacciones verificables. Tal dijo que una capa de conocimiento confiable debería etiquetar las categorías en lugar de presentar ambas con la misma voz.
La guía de EE. UU. también exige procedencia y revisión humana
Para los desarrolladores y empresas de EE. UU. que implementan IA generativa, el Instituto Nacional de Estándares y Tecnología ha recomendado varios controles que se superponen con partes del argumento de Tal.
El Perfil de IA Generativa del NIST, publicado en julio de 2024, aconseja a las organizaciones documentar las fuentes de los datos de entrenamiento, monitorear el origen del material generado y evaluar la retroalimentación entre los sistemas de procedencia y los revisores humanos. El marco voluntario también pide que expertos en el dominio y comunidades afectadas participen en ciertas evaluaciones.
Los estándares de procedencia de contenido ofrecen otro método para registrar el origen del material digital. La Coalición para la Procedencia y Autenticidad del Contenido utiliza Credenciales de Contenido firmadas criptográficamente para preservar información sobre quién creó o modificó un activo y cómo fue editado.
Sin embargo, bajo la especificación de C2PA, la procedencia validada no determina si una afirmación adjunta es buena, mala o veraz. El estándar verifica que las afirmaciones estén conectadas al activo subyacente, estén correctamente formadas y estén libres de manipulación.
