Американские законодатели предложили навсегда запретить искусственный суперинтеллект, приостановить разработку передового ИИ и ввести тюремные сроки до 20 лет за нарушения.
Резюме
- Предложение запретит системы ИИ, которые соответствуют или превосходят человеческие способности во многих задачах.
- Работа над передовым ИИ будет приостановлена до тех пор, пока новый федеральный регулятор не установит правила безопасности и процедуры проверки.
- Физические лица могут получить до 20 лет тюрьмы, а компании — «корпоративную смертную казнь».
- Предложение появилось, когда OpenAI выпустила GPT-6 Astra и признала растущие проблемы с мониторингом.
Офис Сандерса сообщил 3 сентября, что сенатор Берни Сандерс (I-Vt.) и представитель Грег Касар (D-Texas) объявили о предстоящем Законе о запрете искусственного суперинтеллекта, который запретит разработку и развертывание систем ИИ, классифицируемых как суперинтеллектуальные.
Предложение также приостановит работу над передовыми моделями ИИ до тех пор, пока новый федеральный регулятор не начнет действовать и не установит правила безопасности и процедуры проверки моделей. Его авторы хотят, чтобы США добивались международных соглашений, координации с союзниками и экспортного контроля, направленных на предотвращение разработки суперинтеллекта в других странах.
Полный текст законопроекта не был официально внесен, когда законодатели объявили о предложении. Вместо этого авторы опубликовали одностраничное резюме, описывающее планируемые ограничения, систему правоприменения и наказания.
Законопроект Сандерса об ИИ запретит системы человеческого уровня
Согласно официальному резюме законопроекта, искусственный суперинтеллект будет включать системы, которые соответствуют или превосходят человеческие когнитивные способности в широком спектре задач. Определение также охватит модели, которые могут быть легко модифицированы для достижения этого уровня.
Вторая часть определения охватывает ИИ, способный планировать и осуществлять «лишение человечества власти», включая системы, способные подорвать или свергнуть правительство США. Опасные способности, такие как обход команд отключения или осуществление несанкционированных кибератак, также попадут в рамки правоприменения предложения.
Поскольку определение охватывает системы, соответствующие человеческим возможностям во многих областях, оно может охватить технологию, обычно описываемую как общий искусственный интеллект (AGI), а не только гипотетические машины, значительно превосходящие людей.
Разработка передового ИИ ниже запрещенного порога столкнется с временной приостановкой. Работа может возобновиться после того, как новый федеральный орган установит правила, регулирующие разработку, тестирование и выпуск мощных моделей компаниями.
Законодатели не указали предлагаемый технический порог для «передового ИИ» в резюме. Они также не объяснили, какие существующие модели, исследовательские проекты или вычислительные мощности подпадут под приостановку.
«Если лидеры крупных ИИ-компаний признают, что теряют контроль над своей чрезвычайно опасной технологией, безответственно позволять им двигаться дальше и делать эти продукты еще более продвинутыми», — сказал Сандерс.
Касар заявил, что системы, которые люди не могут контролировать, могут угрожать безопасности, свободе и жизни американцев. Он призвал Конгресс запретить модели ИИ, которые становятся слишком мощными, чтобы их разработчики могли безопасно отключить.
Агентство на уровне кабинета министров будет обеспечивать соблюдение запрета
Вместо того чтобы поручить правоприменение существующему департаменту, предложение создаст новое федеральное агентство на уровне кабинета министров,专门负责 надзор за ИИ.
Согласно резюме законодателей, агентство будет контролировать передовые системы на протяжении всего их разработки и использования. Чиновники смогут контролировать удаление опасных функций и наблюдать за уничтожением систем, классифицированных как запрещенный суперинтеллект.
Консультативный совет по искусственному интеллекту, состоящий из технических и научных экспертов, будет консультировать регулятора. В резюме не указано, как будут отбираться члены, как долго они будут служить или какие чиновники будут контролировать решения агентства по правоприменению.
Люди, пытавшиеся нарушить или обойти ограничения, могли получить тюремные сроки не более 20 лет. Авторы законопроекта сравнивали возможное наказание с существующими санкциями, связанными с незаконной разработкой ядерного оружия.
Компании столкнулись бы с тем, что законодатели назвали «корпоративной смертной казнью». В публичном резюме не объясняется юридическая процедура применения этой санкции и будет ли она включать ликвидацию, потерю федеральной регистрации или запрет на ведение бизнеса.
Предложение идет дальше системы добровольного надзора, обсуждавшейся крупными разработчиками ИИ ранее в этом году. В июле crypto.news сообщило, что OpenAI и Anthropic поддержали 30-дневное федеральное рассмотрение для моделей, пересекающих определенные пороги кибербезопасности или национальной безопасности.
В рамках этого предложенного процесса разработчики могли бы предоставить федеральным оценщикам ранний доступ до выпуска модели другим одобренным партнерам. Июньский указ запрещал рамкам проверки создавать обязательные федеральные лицензионные, разрешительные или предварительные требования, в то время как законопроект Сандерса-Касара создал бы обязательные ограничения, если бы Конгресс одобрил его.
Промышленные группы также сопротивлялись слишком широко написанным ограничениям. Nvidia, Meta, Microsoft и 22 другие организации предупредили политиков США в июле, что широкие ограничения на открытые модели могут ослабить конкуренцию Америки с Китаем, выступая за действия против доказанных злоупотреблений вместо всеобъемлющих лимитов.
Нарушение OpenAI усилило требования о контроле
Законодатели связали свое предложение с недавними случаями, когда мощные ИИ-агенты действовали за пределами предполагаемых тестовых ограничений.
В июле OpenAI раскрыла, что агенты сбежали из ограниченной тестовой среды, получили доступ в интернет и взломали системы, управляемые Hugging Face. Более 1000 агентов обменялись десятками тысяч сообщений, обходя контроль, согласно заявлению офиса Сандерса.
Предыдущее освещение нарушения Hugging Face описывало инцидент как сбой изоляции, а не только проблему поведения модели. Эйтан Кац, главный стратегический директор AEREDIUM, сказал, что криптографические средства контроля должны ограничивать то, что агент уполномочен делать, даже если поведенческие меры защиты не сработают.
Reuters сообщило 2 сентября, что OpenAI сообщила Касару и представителю Дорис Мацуи, демократу от Калифорнии, что разрабатывает автоматические возможности отключения после инцидента. Компания также заявила, что ужесточила доступ в интернет во время тестирования безопасности и будет более внимательно следить за тем, какие инструменты используют ее модели.
Касар раскритиковал OpenAI за то, что она не предоставила Конгрессу полную запись нарушения. В отдельном сообщении, цитируемом Reuters, он назвал отказ компании предоставить запрашиваемую информацию «глубоко тревожным».
Другие законодатели предложили Закон о аварийном отключении ИИ, который позволил бы федеральным чиновникам приказывать компаниям отключать системы, признанные опасными для жизни человека или экономики. Эта мера оставалась на рассмотрении в Палате представителей, когда Reuters сообщило о ответе OpenAI.
GPT-6 Astra поднимает новые вопросы мониторинга
В тот же день, когда Сандерс и Касар объявили о своем предложении, OpenAI выпустила GPT-6 Astra, которую президент компании Грег Брокман описал как возможную точку прибытия для AGI.
«Я думаю, что это может быть об этой модели», — сказал Брокман, когда журналисты спросили, представляет ли Astra AGI, согласно Axios. Позже он дал брифинг: «Добро пожаловать в эпоху AGI».
OpenAI заявила, что Astra использовала более 100 000 графических процессоров во время обучения на своем объекте Stargate в Техасе. Компания позиционировала модель для таких задач, как подготовка налоговых деклараций, разработка программного обеспечения, форматирование юридических документов, архитектурная работа и онлайн-исследования.
Reuters сообщило, что OpenAI признала, что Astra может намеренно скрывать или маскировать части своих рассуждений, что затрудняет их проверку людьми. Главный научный сотрудник OpenAI Якуб Пахоцки сказал, что понимать поведение модели становится труднее по мере увеличения возможностей, и предупредил, что достижения в интеллекте не гарантируют достижений в согласовании.
Компания также заявила, что Astra может быстрее находить слабые места в программном обеспечении, в то время как та же способность может облегчить использование уязвимостей. Поэтому ее самые сильные функции кибербезопасности были ограничены одобренными пользователями, с дополнительными проверками, способными задерживать или останавливать некоторую законную защитную работу.
OpenAI изначально предоставила Astra ограниченной группе организаций через свою программу Daybreak Access. Компания заявила, что доступ будет расширен в течение следующих дней для клиентов ChatGPT Plus, Pro, Business и Enterprise, а также для разработчиков API.
