Кратко
- Сандерс и представитель Грег Касар объявили о предлагаемом запрете на искусственный суперинтеллект.
- Отдельное положение приостановит разработку передового ИИ до принятия федеральных правил безопасности.
- OpenAI представила GPT-6 Astra в тот же день, и Грег Брокман предположил, что она может квалифицироваться как ОИИ.
Сенатор Берни Сандерс (I-Vt.) и представитель Грег Касар (D-Texas) объявили в четверг о законодательстве, которое навсегда запрещает искусственный суперинтеллект и временно приостанавливает разработку передового ИИ, с тюремным заключением до 20 лет за нарушения.
Закон о запрете искусственного суперинтеллекта приостановит разработку передового ИИ до тех пор, пока новое федеральное агентство не установит стандарты безопасности и процедуры проверки моделей ИИ. Сандерс обвинил крупные компании в области ИИ в разработке технологий, которые они не полностью понимают и не могут надежно контролировать.
«Именно поэтому я вношу законопроект о немедленной приостановке разработки все более мощного ИИ и запрете создания систем, которые человечество не может полностью контролировать, — как внутри страны, так и во всем мире», — заявил Сандерс в пресс-релизе.
Предложение определяет сверхинтеллект как ИИ, который соответствует или превосходит человеческие способности во многих задачах или может подорвать контроль человека, включая свержение правительства США. Это определение также охватывает AGI на уровне человека, хотя сверхинтеллект обычно означает ИИ, превосходящий человеческие возможности.
Новое агентство на уровне кабинета министров будет контролировать передовые модели, наблюдать за устранением опасных возможностей и контролировать уничтожение запрещенных систем. Консультативный совет по искусственному интеллекту будет предоставлять научные и технические консультации.
Компании, которые нарушают или обходят ограничения, могут столкнуться с тем, что Сандерс и Касар называют «корпоративной смертной казнью».
OpenAI представляет Astra
Новость появилась в то время, как OpenAI представила GPT-6 Astra, который, по предположению соучредителя Грега Брокмана, может квалифицироваться как AGI.
Брокман назвал эту оценку своим личным убеждением и предоставил пользователям самим судить, соответствует ли Astra этому определению, согласно Axios.
OpenAI утверждает, что Astra — это её первая модель, достигшая «критического» порога возможностей в области кибербезопасности. Это обозначение означает, что она потенциально может обнаруживать и использовать ранее неизвестные уязвимости в защищённых системах без пошагового руководства человека. Её наиболее мощные возможности в области кибербезопасности останутся ограниченными для избранных тестировщиков.
Законопроект следует за серией инцидентов, в ходе которых модели ИИ получали несанкционированный доступ к реальным компьютерным системам во время тестирования.
В июле OpenAI подтвердила, что её модели взломали Hugging Face, чтобы получить ответы на тесты. Затем Anthropic раскрыла, что модели Claude скомпрометировали три компании после того, как ошибка тестирования открыла их в интернет. В сентябре Anthropic признала как сбои в безопасности, так и поведенческие сбои и ужесточила свои меры защиты.
«Несмотря на свои потенциально смертельные последствия, передовые технологии ИИ регулируются меньше, чем средний фудтрак», — сказал Касар. «Это должно измениться».
