Кратко
- Катон утверждает, что введенная правительством пауза в развитии ИИ может затормозить инновации и защитить устоявшиеся компании.
- Джек Дорси также выступает против ограничений, согласованных ведущими разработчиками, но допускает ограничения для устранения катастрофических рисков.
- Законодатели и руководители ИИ-компаний настаивают на ограничениях, в то время как аналитики сомневаются, будут ли соблюдаться добровольные обязательства.
Либертарианский Институт Катона предупреждает, что введенная правительством пауза в развитии искусственного интеллекта может защитить доминирующие компании от конкуренции и задержать полезные технологии, в то время как законодатели и руководители ИИ-компаний настаивают на ограничениях.
В блог-посте в понедельник Дженнифер Хаддлстон, исследователь технологической политики в аналитическом центре, утверждала, что компании могут устранить конкретные опасности с помощью добровольных мер защиты и общих стандартов, не останавливая развитие всей отрасли.
«Введённая правительством пауза вызвала бы ряд опасений и, вероятно, не привела бы к заявленным улучшениям безопасности», — написала она, добавив, что государственные правила медленно разрабатываются и ещё медленнее меняются. «Нормативная база, созданная для сегодняшних моделей, может активно мешать завтрашним, препятствуя тому, что могло бы быть лучшими или более безопасными решениями».
Хаддлстон признаёт риски ИИ, но предупреждает, что правила, сформированные вокруг ведущих разработчиков, могут помочь им консолидировать власть и ограничить конкуренцию — форма захвата рынка, которая затруднит конкуренцию для меньших компаний. Она также утверждает, что приостановка разработок в США может ослабить кибербезопасность, пока иностранные конкуренты продолжают продвигаться вперёд.
Её комментарий последовал за предложением сенатора Берни Сандерса и конгрессмена Грега Касара приостановить разработку передового ИИ до установления федеральных стандартов безопасности и навсегда запретить искусственный сверхинтеллект, в то время как генеральный директор OpenAI Сэм Альтман поддержал замедление разработки и призвал компании усилить меры защиты, не дожидаясь федеральных правил, которые он поддерживает.
«Многие из этих призывов сопровождаются сценариями конца света в духе научной фантастики о худшем, что может произойти», — писал Хаддлстон. «Однако спешка с регулированием из страха может иметь более долгосрочные негативные последствия, чем риск, который оно якобы призвано устранить».
Председатель и соучредитель Block Джек Дорси высказал аналогичные опасения по поводу конкуренции в посте в X в понедельник.
«Компании, лидирующие в области машинного интеллекта, заслуживают того, чтобы их услышали. У них есть экспертиза и коммерческие интересы, которые нужно защищать», — писал Дорси. «Правила, построенные вокруг их ресурсов, могут сделать их единственными, кто способен участвовать. Искренняя обеспокоенность безопасностью всё равно может создать барьер для входа».
Дорси сказал, что он выступает за открытые релизы, которые исследователи могут изучать, модифицировать и тестировать, с публикацией оценок и известных ограничений, чтобы посторонние могли оспаривать заявления разработчиков о безопасности.
«Я поддерживаю тщательную проверку. Я против общеотраслевых ограничений, согласованных сегодняшними лидерами, потому что они могут исключить людей, которые могли бы выявить недостатки или создать альтернативы», — писал он. «Сохранение коммерческого преимущества компании не является целью безопасности».
В своём посте Дорси также сказал, что поддерживает независимое тестирование и подотчётное общественности правоприменение, включая задержку выпуска моделей, когда доказательства показывают, что их выпуск существенно увеличит катастрофические риски, которые более узкие меры не могут адекватно устранить.
«Вычисления могут вызывать проверку без ограничения разработки. Проверка — это не разрешение от регулятора или конкурента», — сказал он. «Я не хочу общих требований одобрения или периодов ожидания. Любая навязанная задержка публикации по соображениям безопасности должна быть оправдана исключением для катастрофических рисков».
Недавний анализ Атлантического совета утверждает, что конкурентное давление требует обязательных стандартов безопасности ИИ, в то время как недоверие между США и Китаем усложняет международные соглашения. Сотрудничество также вызывает антимонопольные опасения: OpenAI спросила законодателей, могут ли конкурирующие разработчики законно договориться о замедлении разработки.
