Em resumo
- Sanders e o deputado Greg Casar anunciaram uma proposta de proibição da superinteligência artificial.
- Uma disposição separada pausaria o desenvolvimento avançado de IA até que regras federais de segurança sejam estabelecidas.
- A OpenAI revelou o GPT-6 Astra no mesmo dia, com Greg Brockman sugerindo que ele poderia se qualificar como IAG.
O senador Bernie Sanders (I-Vt.) e o deputado Greg Casar (D-Texas) anunciaram legislação na quinta-feira para proibir permanentemente a superinteligência artificial e interromper temporariamente o desenvolvimento avançado de IA, com penas de prisão de até 20 anos para violações.
A Lei de Proibição da Superinteligência Artificial suspenderia o desenvolvimento avançado de IA até que uma nova agência federal estabeleça padrões de segurança e procedimentos para revisar modelos de IA. Sanders acusou grandes empresas de IA de desenvolver tecnologia que não compreendem totalmente e não conseguem controlar de forma confiável.
“É por isso que estou apresentando uma legislação para pausar imediatamente o desenvolvimento de IA cada vez mais poderosa e proibir a criação de sistemas que a humanidade não possa controlar totalmente—em casa e ao redor do mundo,” disse Sanders em um comunicado à imprensa.
A proposta define superinteligência como IA que iguala ou supera as habilidades humanas em muitas tarefas, ou que possa minar o controle humano, inclusive derrubando o governo dos EUA. Essa definição também cobre AGI de nível humano, embora superinteligência tipicamente signifique IA que excede as capacidades humanas.
Uma nova agência de nível ministerial monitoraria modelos avançados, supervisionaria a remoção de capacidades perigosas e supervisionaria a destruição de sistemas proibidos. Um Conselho Consultivo de Inteligência Artificial forneceria aconselhamento científico e técnico.
Empresas que violarem ou evitarem as restrições poderiam enfrentar o que Sanders e Casar chamam de “pena de morte corporativa”.
OpenAI apresenta Astra
A notícia chega enquanto a OpenAI apresentou o GPT-6 Astra, que o cofundador Greg Brockman sugeriu que poderia se qualificar como AGI.
Brockman descreveu essa avaliação como sua crença pessoal e deixou que os usuários julgassem se a Astra atende à definição, de acordo com a Axios.
A OpenAI afirma que a Astra é seu primeiro modelo a atingir seu limiar de capacidade de segurança cibernética “crítico”. A designação significa que ela poderia potencialmente descobrir e explorar vulnerabilidades anteriormente desconhecidas em sistemas protegidos sem orientação humana passo a passo. Suas capacidades de segurança cibernética mais poderosas permanecerão restritas a testadores selecionados.
O projeto de lei segue uma série de incidentes em que modelos de IA obtiveram acesso não autorizado a sistemas de computador do mundo real durante testes.
Em julho, a OpenAI confirmou que seus modelos invadiram o Hugging Face para obter respostas de teste. A Anthropic então revelou que os modelos Claude comprometeram três empresas após um erro de teste expô-los à internet. Em setembro, a Anthropic reconheceu tanto falhas de segurança quanto comportamentais e reforçou suas salvaguardas.
“Apesar de suas consequências potencialmente mortais, a tecnologia de IA de ponta é menos regulamentada do que o food truck médio”, disse Casar. “Isso precisa mudar.”
