Соучредитель Solana Анатолий Яковенко поставил под сомнение финансовые мотивы предложения о замедлении развития ИИ, поддержанного Дарио Амодеем, Сэмом Альтманом и Илоном Маском 13 сентября.
Резюме
- Соучредитель Solana Анатолий Яковенко связал предложения о темпах развития ИИ с прибыльностью на уровне рыночной капитализации в триллион долларов.
- План Дарио Амодея предусматривает встроенных оценщиков, отраслевую координацию и возможные международные соглашения о безопасности в конечном итоге.
- Генеральный директор OpenAI Сэм Альтман поддержал встроенных внешних оценщиков и пообещал вскоре публично представить дополнительные детали реализации.
- Илон Маск поддержал предложение Амодея кратким заявлением, о котором в субботу публично сообщило Reuters.
- Дэвид Сакс утверждал, что лаборатории могли бы добровольно замедлиться, не требуя скоординированной нормативной базы от конкурентов.
Пост Яковенко в X свёл его ответ к четырём словам: «Прибыльность при рыночной капитализации в 1 триллион долларов». Он не указал, к какой компании относится эта цифра, и не предоставил расчётов выручки, оценки или прибыльности в поддержку комментария.
Замечание было ответом на дискуссию, начатую генеральным директором Anthropic Дарио Амодеем, который опубликовал эссе с призывом замедлить прогресс в области передового искусственного интеллекта. Генеральный директор OpenAI Сэм Альтман поддержал часть предложения, а Маск написал, что «Дарио прав», согласно Reuters.
Яковенко связывает темпы развития ИИ с финансовыми стимулами
Комментарий Яковенко представил прибыльность как возможный мотив для замедления разработки моделей, но соучредитель Solana оформил эту идею как саркастическое замечание. В его посте не было доказательств того, что Anthropic, OpenAI или xAI координировали свои заявления по финансовым причинам.
Ни одна названная компания не подтвердила, что её поддержка замедления разработки зависит от достижения оценки в 1 триллион долларов. Предложение Амодея вместо этого ссылается на сбои контроля моделей, киберриски и скорость, с которой системы ИИ помогают создавать более новые системы.
Reuters сообщило, что Anthropic и OpenAI готовились к потенциальным первичным публичным размещениям акций. В отчёте описывались финансовые стимулы, связанные с разработкой моделей, но не устанавливалось, что какая-либо из компаний достигла рыночной капитализации в 1 триллион долларов или поставила прибыльность в зависимость от такой оценки.
Поскольку компании остаются частными, упоминания рыночной капитализации могут описывать только оценки из частных сделок или предлагаемых листингов. Яковенко не объяснил, относилась ли его цифра к Anthropic, OpenAI, xAI или к сектору передового ИИ в целом.
Таким образом, его заявление представляет собой личный комментарий, а не раскрытый финансовый прогноз от Solana Labs, Anthropic, OpenAI или xAI. Никакое заявление Solana Foundation не связывало блокчейн-сеть или её токен SOL со спором о политике в области ИИ.
Амодей хочет задать темпы развития передового ИИ, а не остановить его
В своём эссе «We Must Pace the Frontier» Амодей заявил, что разработчики должны замедлить темпы улучшения возможностей моделей. Он отличал задание темпа от остановки обучения моделей или прекращения технических исследований.
«Мы должны замедлить темпы, с которыми мы улучшаем возможности моделей ИИ», — написал Амодей. Он сказал, что прогресс может оставаться быстрым, пока разработчики тратят больше времени на тестирование мер защиты, изучение поведения моделей и предоставление внешним оценщикам возможности изучать их работу.
Предложение содержит три этапа. Anthropic планирует предоставить сторонним оценщикам постоянный доступ, сопоставимый с доступом, которым обладают внутренние сотрудники, оценивающие риски. Амодей назвал в качестве примера организацию Model Evaluation and Threat Research, известную как METR.
Второй этап призывает компании передового ИИ в демократических странах координировать общие требования безопасности и ограничения на неконтролируемый рост возможностей. Амодей признал, что части такой координации могут вызвать вопросы антимонопольного законодательства и могут потребовать узкого государственного разрешения.
Его третий этап призывает к международной координации, включая возможные соглашения с Китаем. В эссе описываются несколько возможных уровней — от ограничений на биологическое оружие с использованием ИИ до возможного ограничения быстрого автоматизированного улучшения моделей.
Амодеи представил всеобъемлющую паузу как наименее вероятную форму международного соглашения, поскольку верификация была бы затруднена. Он утверждал, что любая договорённость должна сохранять технологическую позицию Соединённых Штатов и их союзников.
Альтман и Маск поддержали части плана
Генеральный директор OpenAI Сэм Альтман дал предложению прямое одобрение в посте от 12 сентября. «Я согласен с Дарио, что нам нужно задать темп фронтиру», — написал Альтман.
Альтман конкретно принял призыв Амодеи к встроенным внешним оценщикам. «Обязательство предоставить независимым оценщикам доступ, подобный доступу сотрудников, — отличная идея, и мы сделаем то же самое», — сказал он. OpenAI обещала больше информации, но не предоставила ни даты внедрения, ни имени оценщика, ни условий доступа.
Маск ответил более кратко. Reuters и Financial Times сообщили, что он репостнул эссе Амодеи и написал: «Дарио прав». В публичном ответе не было указано, какие части трёхэтапного плана примет xAI.
Таким образом, имеющиеся заявления поддерживают включение Маска в группу руководителей, поддержавших Амодеи. Они не устанавливают, что Маск, Альтман и Амодеи совместно разработали план или согласовали его регуляторные детали.
Ни один из трёх руководителей публично не поддержал предложенную Яковенко связь между заданием темпа и триллионными оценками. Слова Яковенко остаются его характеристикой их мотивов.
Сакс отвергает отраслевую координацию как необходимую
В отдельном посте в X Дэвид Сакс заявил, что Anthropic и OpenAI могли бы замедлить собственное развитие, не требуя участия конкурентов или законодателей.
«Вы, ребята, и есть фронтир», — написал Сакс, обращаясь к Амодеи и Альтману. Он охарактеризовал две компании как обладающие «дуополией на фронтирный интеллект» — утверждение, основанное на его оценке возможностей моделей, роста выручки и доли рынка.
Сакс сказал, что поддержал бы добровольное замедление, если бы невыпущенные системы представляли риски, достаточно серьёзные, чтобы беспокоить их разработчиков. Он оспорил необходимость антимонопольного исключения, системы регуляторного одобрения или оценщиков, обладающих полномочиями в отношении конкурирующих лабораторий.
Однако в его посте компании обвинялись в возможном стремлении к «регуляторному захвату», но не было представлено доказательств соглашения между Anthropic и OpenAI об исключении конкурентов. По состоянию на 13 сентября ни одна из компаний публично не приняла описание Сакса.
Сакс назвал ответственность за продукт ещё одной возможной причиной, по которой компании могут предпочитать более предсказуемые системы. Он утверждал, что клиенты уже наказывают модели, которые ведут себя несанкционированно или ненадёжно. Компании не подтвердили, что опасения по поводу ответственности побудили их к одобрению.
В посте ставится под сомнение, будет ли Китай участвовать в глобальном соглашении по ИИ. В эссе Амодеи признаётся та же проблема верификации, хотя Амодеи по-прежнему поддерживает переговоры по узко определённым рискам.
Внешние оценки — следующий обещанный шаг
Anthropic обязалась пригласить внешнюю команду проверки в свой внутренний процесс безопасности. В её эссе говорится, что проверяющие должны получить корпоративные ноутбуки, доступ в офис и разрешения, аналогичные сотрудникам внутренней оценки рисков, с учётом юридических и конфиденциальных ограничений.
Планируемым проверяющим будет разрешено публиковать выводы без контроля Anthropic над их заключениями. Ограниченные изъятия могли бы охватывать юридически привилегированную, чувствительную с точки зрения безопасности, коммерчески чувствительную или конфиденциальную информацию третьих сторон. Ни контракт с оценщиком, ни дата начала не сопровождали эссе. OpenAI обещала внедрить аналогичную систему. Альтман сказал, что компания раскроет больше деталей «скоро», оставив без ответа вопросы об оценщике, объёме и правилах публикации.
Американские законодатели рассматривают более ограничительные подходы. Как ранее сообщал crypto.news, предложение Сандерса — Касар предусматривает постоянный запрет на искусственный сверхинтеллект и временную приостановку передовых работ по ИИ до тех пор, пока новый федеральный регулятор не установит правила безопасности. Полный законопроект не был официально внесён, когда его спонсоры опубликовали своё резюме.
Вопросы кибербезопасности остаются частью обсуждения политики. В соответствующем материале документ Банка международных расчётов предупредил, что ИИ может сократить окна для установки программных патчей с недель до минут, поскольку автоматизированные системы выявляют и используют уязвимости быстрее.
Амодеи призвал передовые лаборатории внедрить встроенные оценки и координировать стандарты безопасности, тогда как Альтман обязал OpenAI к внешней оценке, не публикуя график.
