Засновник Geo Янів Тал визначив чотири слабкі місця в онлайн-інформації, які, за його словами, роблять відповіді ШІ ненадійними: втрачене походження, сплощена авторитетність, приховані розбіжності та повторювані помилки, згенеровані моделями.
Підсумок
- Geo розділяє твердження, джерела та підтверджувальні докази в керованих спільнотою просторах знань.
- Тал каже, що людське судження може допомогти ранжувати надійні міркування, не видаляючи конкуруючі погляди.
- Дослідження Nature виявило, що повторне навчання на синтетичному матеріалі може спричинити колапс моделі.
- NIST рекомендує відстежувати джерела навчання та включати експертний людський відгук у системи ШІ.
Засновник Geo Янів Тал розповів crypto.news, що ненадійні відповіді ШІ часто починаються з матеріалів, які отримують моделі, стверджуючи, що інтернет був створений для поширення інформації, а не для збереження її авторитетності, походження чи підзвітності.
«У ШІ немає проблеми з правдою, вона є в інтернеті», — сказав Тал.
За словами Тала, інформація втрачає критичний контекст, коли веб-сайти її скрейплять і перепубліковують. Твердження може пройти через кілька сторінок, перш ніж потрапити в навчальний набір, залишаючи моделі лише висловлювання без чіткого шляху назад до оригінального джерела.
Авторитетність також стає важко виміряти, коли наукова стаття, корпоративне оголошення та анонімний пост на форумі потрапляють в один і той же конвеєр даних як текст. Тал сказав, що моделі можуть тоді ставитися до матеріалів з різними стандартами доказовості так, ніби вони мають однакову вагу.
«Походження руйнується. Твердження скрейпиться, переказується і знову скрейпиться, поки оригінальне джерело стає неможливо відновити», — сказав він.
Засновник Geo визначає чотири причини ненадійних відповідей ШІ
Розбіжності створюють ще одну проблему, оскільки мовні моделі часто поєднують конкуруючі позиції в одну відповідь. Тал сказав, що таке стиснення може приховувати справжні суперечки між кваліфікованими експертами, даючи користувачам єдину впевнену відповідь без показу того, що існують надійні альтернативи.
Четверта слабкість виникає, коли згенерований ШІ матеріал повертається до постачання даних, яке використовують пізніші моделі. Помилки можуть виживати при повторних публікаціях, тоді як синтетичні статті, пости та підсумки ускладнюють пошук створеного людиною матеріалу, з якого походить твердження.
«Моделі все частіше навчаються на виході інших моделей, тому помилки не просто зберігаються, вони посилюються», — сказав Тал.
Незалежні дослідження задокументували пов'язаний ризик. Дослідження Nature 2024 року вивчило, що відбувається, коли генеративні моделі багаторазово навчаються на матеріалі, створеному попередніми моделями. Дослідники описали «колапс моделі» як процес, у якому системи поступово втрачають інформацію про початковий розподіл даних.
Менш поширений матеріал почав зникати на ранніх етапах експериментів, згідно зі статтею, тоді як пізніші покоління моделей створювали розподіли, які мало нагадували вихідні дані. Дослідники зазначили, що доступ до оригінальної, створеної людиною інформації залишається важливим, оскільки згенерований ШІ матеріал поширюється в інтернеті.
Тал не класифікує чотири слабкі місця як недоліки, обмежені дизайном моделі. За його словами, моделі відтворюють вади, уже вбудовані в їхній навчальний матеріал, включаючи відсутні джерела та брак видимих відмінностей між доказами, думкою та рекламою.
Людська перевірка ранжувала б твердження, не видаляючи розбіжності
Запропонована відповідь Geo починається з відокремлення твердження від його автора та доказів, що його підтримують. Зв'язки між записами можуть показати, чи підтримує один аргумент інший, суперечить йому чи безпосередньо відповідає на спірне питання.
Після фіксації цих зв'язків Geo може впорядкувати аргументи за їхньою оціненою силою, зберігаючи конкуруючий матеріал під ними, сказав Тал. Структура призначена для збереження доступності розбіжностей без відображення кожного внеску як недиференційованої стрічки коментарів.
«Плюралізм не обов'язково означає шум», — сказав Тал. «Ми вважаємо, що кілька добре структурованих конкуруючих перспектив часто є більш чесною відповіддю».
Geo організовує інформацію через незалежні спільноти, які називаються Просторами. Його поточний веб-сайт перелічує початкові Простори, що охоплюють криптовалюти, здоров'я, ШІ, освіту, світові справи та політику США.
Учасники можуть робити внесок і брати участь в обговореннях, а люди з відповідними знаннями можуть подати заявку на посаду редакторів. За словами Geo, його кураторська програма пропонує учасникам оцінювати джерела, пов'язувати аргументи та додавати структуровану інформацію до відкритого графа знань.
Модель була розроблена на основі Geo Genesis, який отримав ранній доступ у січні 2025 року. Як повідомлялося раніше, його структура управління за замовчуванням розділяла учасників на редакторів та учасників. Редактори отримували право голосу, а учасники могли додавати інформацію до окремих просторів.
Побудований на основі структури управління Aragon OSx, Geo Genesis з'явився після випуску GRC-20, стандарту для представлення пов'язаних знань. The Graph заявив у червні 2025 року, що GRC-20 може дозволити спільнотам публікувати структуровану інформацію в блокчейні та отримувати її через підграфи та Substreams.
Тал, який співзаснував The Graph перед запуском Geo, сказав, що за запропонованою системою експертиза не призначатиметься одним центральним органом. Учасники зароблятимуть репутацію через свою роботу, і Geo має намір, щоб цей запис супроводжував людину між просторами.
«Людське судження зараз є дефіцитним ресурсом, а не надлишковим. Машини генерують більше контенту, ніж люди можуть обробити, і майже ніхто не несе відповідальності за його правдивість».
Спільнотне управління все ще стикається з проблемою ідентичності
Мережа знань, керована людьми, все ще повинна визначати, чи є учасники справжніми, кваліфікованими та незалежними. Відкриті системи управління можуть стикатися з атаками Sybil, коли один учасник створює кілька ідентичностей, щоб отримати вплив на голосування, рейтинги або винагороди.
У поясненні за червень 2026 року розглядалося, як біометричні перевірки, мережі соціальної довіри та інструменти ідентичності з нульовим розголошенням намагаються перевірити унікальних людей. Кожен метод має компроміси між конфіденційністю, стійкістю до атак, доступністю та контролем, тоді як ШІ може допомогти зловмисникам створювати переконливі персонажі з низькою вартістю.
Тал сказав, що Geo покладатиметься на записи внесків і спеціалізовані спільноти, а не дозволятиме анонімним матеріалам мати такий самий статус, як заяви, прив'язані до людей з публічною історією. Редактори подаватимуть заявки через окремі простори, а учасники братимуть участь в управлінні темами, за якими вони стежать.
«Зацікавленість без фінансових ставок змінює якість того, під чим люди готові ставити своє ім'я», — сказав Тал.
Цей підхід не усуває необхідності вирішувати, хто обирає редакторів, як спільноти вирішують скоординовані маніпуляції, чи чи має експертиза, здобута в одній темі, мати вагу в іншій. Тал назвав проблему воротаря реальною, але стверджував, що незалежні простори запобігатимуть контролю однієї інституції над усіма сферами.
Участь людини також привернула увагу в криптобезпеці, де автоматизовані інструменти можуть виявляти шкідливу діяльність, але користувачі все одно авторизують транзакції. У травні 2026 року звіт Ledger про безпеку описав ручну перевірку та чітке відображення транзакцій як захист від фішингу з використанням ШІ, підроблених інтерфейсів та автоматизованих шахрайств.
Записи в блокчейні відокремлюють транзакції від супутніх заяв
Криптовалюта є одним із перших просторів Geo, оскільки активність у блокчейні пропонує прямий тест на різницю між перевірними записами та людською інтерпретацією, сказав Тал.
Блокчейн може підтвердити, що транзакція відбулася на записаній адресі та в блоці. Він не може без додаткових доказів встановити, хто контролює адресу, чому кошти переміщувалися, чи була активність органічною, або що проект планує робити далі.
«Дані в блокчейні перевірні за конструкцією. Транзакція відбулася або ні», — сказав Тал. «Все, що навколо цього, — це заяви».
Оголошення проектів, описи партнерств, прогнози ринку та пояснення руху токенів тому потребують окремого розгляду, за словами Тала. Geo має намір прив'язувати такі заяви до названих учасників і зберігати їхні записи, включаючи попередні заяви, які виявилися помилковими.
Промоактивність робить цю відмінність особливо важливою на ринках цифрових активів, де команди можуть представляти вибрані показники поруч із перевірними даними транзакцій. Тал сказав, що надійний рівень знань повинен позначати категорії, а не подавати обидва в одному голосі.
Інструкції США також вимагають походження та перевірку людиною
Для американських розробників і компаній, які розгортають генеративний ШІ, Національний інститут стандартів і технологій рекомендував кілька заходів контролю, які збігаються з частиною аргументів Тала.
Профіль генеративного ШІ NIST, опублікований у липні 2024 року, радить організаціям документувати джерела навчальних даних, відстежувати походження згенерованого матеріалу та оцінювати зворотний зв'язок між системами походження та перевіряючими людьми. Добровільна структура також закликає експертів у відповідних галузях та постраждалі спільноти брати участь у певних оцінках.
Стандарти походження контенту пропонують ще один метод запису того, звідки походить цифровий матеріал. Коаліція за походження та автентичність контенту використовує криптографічно підписані облікові дані контенту для збереження інформації про те, хто створив або змінив актив і як він був відредагований.
Однак згідно зі специфікацією C2PA, підтверджене походження не визначає, чи є прикріплене твердження хорошим, поганим або правдивим. Стандарт перевіряє, що твердження пов'язані з базовим активом, правильно сформовані та не піддавалися втручанню.
