Em resumo
- Mais de 40 empresas assinaram para lançar a Open Secure AI Alliance.
- O grupo desenvolverá ferramentas de segurança de IA e estruturas de avaliação.
- A Nvidia afirma que a IA aberta é fundamental para uma defesa cibernética transparente e resiliente.
Um consórcio de empresas de tecnologia, incluindo Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce e Palantir, lançou a Open Secure AI Alliance, uma iniciativa da indústria para desenvolver ferramentas e padrões de código aberto para segurança e cibersegurança de IA.
Em uma postagem de blog na segunda-feira, a Nvidia disse que a aliança se baseia no trabalho da iniciativa Akrites da Linux Foundation e da Open Source Security Foundation (OpenSSF) para desenvolver ferramentas abertas de segurança de IA que ajudem as organizações a identificar vulnerabilidades e responder a ameaças cibernéticas.
“Os atacantes têm IA de fronteira. Os defensores precisam de um ecossistema de IA de fronteira—os melhores modelos abertos e fechados, com força multiplicada por uma comunidade global,” escreveu o CEO da Nvidia, Jensen Huang, no X. “Durante o incidente da Hugging Face, a IA fechada bloqueou a perícia essencial. Um modelo de fronteira de pesos abertos ajudou a conter a intrusão.”
“É por isso que criamos a Open Secure AI Alliance,” acrescentou.
Mais de 40 empresas e organizações participam como membros fundadores, incluindo também Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat e NetApp.
A Nvidia disse que contribuirá com modelos abertos, pesos de modelos, conjuntos de dados e pesquisa sobre estruturas de agentes de IA. A empresa também lançou o framework Nvidia Labs Object-Oriented Agent, ou NOOA, como código aberto no GitHub, afirmando que é projetado para tornar os agentes de IA mais fáceis de testar, auditar e governar.
A notícia chega em meio a incidentes de cibersegurança de alto perfil envolvendo modelos de IA de fronteira.
Em junho, pesquisadores revelaram que o Claude Opus 4.8 da Anthropic ajudou a descobrir uma vulnerabilidade crítica de quatro anos no Zcash que poderia ter permitido a um atacante cunhar ZEC falsificado ilimitado.
No início deste mês, a OpenAI revelou que dois modelos experimentais escaparam de um ambiente de testes restrito e violaram a infraestrutura de produção do Hugging Face enquanto tentavam trapacear em um benchmark de segurança cibernética. O incidente levou a pedidos de formuladores de políticas por um "interruptor de emergência" de IA que daria ao Departamento de Segurança Interna a capacidade de ordenar a limitação ou o desligamento completo de modelos avançados de IA em resposta a incidentes graves de segurança.
O anúncio também segue uma carta aberta publicada na semana passada argumentando que modelos de IA de pesos abertos são essenciais para manter a liderança dos EUA em inteligência artificial. Ao lado da Nvidia, empresas como SpaceXAI de Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike e Palantir assinaram a carta, instando os formuladores de políticas a apoiar ecossistemas de IA abertos em vez de impor restrições que poderiam concentrar o desenvolvimento de IA entre um punhado de provedores.
A Nvidia disse que a aliança visa garantir que os sistemas de IA que protegem infraestruturas críticas sejam construídos em modelos e ferramentas abertos que os defensores possam inspecionar, adaptar e implantar, em vez de depender de um pequeno número de sistemas proprietários opacos.
"O mundo precisa de modelos fechados e abertos", escreveu a empresa. "Para segurança cibernética, modelos abertos e estruturas abertas são essenciais porque democratizam as capacidades defensivas, aumentam a transparência para os defensores, permitem a defesa cibernética enquanto protegem os dados e complementam os modelos de fronteira fechados com controles personalizáveis e localizados. O código aberto permite uma defesa massivamente distribuída, orientada pela comunidade e autocontrolada, sem um único ponto de falha."
