Mon, 27 Jul 2026
← VoltarA NVIDIA e outras 36 organizações formaram a Open Secure AI Alliance para desenvolver e compartilhar tecnologias, técnicas e ferramentas abertas para proteger
A NVIDIA e outras 36 organizações formaram a Open Secure AI Alliance para desenvolver e compartilhar tecnologias, técnicas e ferramentas abertas para proteger software e agentes de inteligência artificial (IA). O grupo de 37 membros abrange empresas de nuvem, segurança, software empresarial e IA, incluindo Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat e Linux Foundation. Seu escopo declarado cobre toda a pilha de agentes, incluindo identidade, permissões, isolamento, proteções, logs, formatos de modelo, verificação de vários modelos e fluxos de trabalho de codificação seguros. A ideia é que os defensores cibernéticos precisam de modelos de IA que possam ler, alterar e executar em seu próprio hardware, e não apenas em sistemas fechados acessados por meio da interface de programação de aplicativos (API) de um fornecedor.
O lançamento também traz sua primeira contribuição técnica nomeada: NVIDIA-labs OO Agents (NOOA), uma estrutura de pesquisa Apache 2.0 projetada para tornar o comportamento do agente mais fácil de testar, rastrear, auditar e governar. Os materiais de lançamento não incluem estatuto, conselho administrativo, fluxos de trabalho técnicos, cronograma de entrega ou repositório de aliança compartilhado, e seu site independente permanece em construção. O Hacker News entrou em contato com a NVIDIA para obter detalhes sobre a governança da aliança, os compromissos dos membros e os primeiros resultados planejados, e atualizará esta história com qualquer resposta. Um chicote de agente é a camada de software em torno de um modelo que renderiza contexto, executa ações, gerencia estado e decide quando uma tarefa é concluída.
No NOOA, essa camada é representada como uma classe Python. Os campos armazenam seu estado, os métodos expõem seus recursos, as docstrings atuam como prompts e as anotações de tipo definem os contratos que o modelo deve seguir. Um método contendo um corpo de reticências, ..., é concluído em tempo de execução por um loop orientado por modelo de linguagem grande (LLM). Um método contendo Python comum continua sendo um código determinístico.
A mesma estrutura permite que os desenvolvedores usem fluxos de trabalho familiares de teste, rastreamento, controle de versão e refatoração, em vez de dividir o comportamento do agente em prompts, esquemas de ferramentas, retornos de chamada e gráficos de fluxo de trabalho. Em sua própria avaliação, a NVIDIA informou que a estrutura obteve 86,8% no benchmark de redescoberta de vulnerabilidades CyberGym L1 usando GPT-5.5, com acesso à rede bloqueado e verificações baseadas em regras aplicadas a cada trajetória. O repositório é igualmente direto sobre o risco. NOOA pode ser configurado para executar Python gerado por LLM, que pode transmitir dados privados, excluir arquivos ou modificar seu ambiente.
Suas verificações de árvore de sintaxe abstrata e listas de negação de módulos são descritas como controles de defesa em profundidade, "não como um limite de contenção". A NVIDIA coloca a contenção fora da própria NOOA. Os agentes que executam o código gerado devem ser executados atrás do isolamento no nível do sistema operacional, como um contêiner, uma máquina virtual ou sua sandbox OpenShell. NOOA fornece inspeção e rastreamento; a sandbox no nível do sistema operacional é o limite de contenção.
Uma revisão de 27 de julho do repositório público encontrou uma tag v0.0.6 datada de 22 de julho. O guia de lançamento do projeto diz que marcar um commit é a cerimônia de lançamento e que anexar rodas construídas a uma versão separada do GitHub é opcional. Seu guia de contribuição diz que o desenvolvimento é mantido pela NVIDIA, com contribuições externas bem-vindas por meio de solicitações pull. O repositório não tinha governança em nível raiz ou arquivo de roteiro.
A NVIDIA vinculou o caso da aliança para modelos defensivos controlados localmente à intrusão de julho em Hugging Face, onde um sistema de agente autônomo comprometeu partes da infraestrutura de produção da empresa. A Hugging Face identificou acesso não autorizado a um conjunto limitado de conjuntos de dados internos e diversas credenciais usadas por seus serviços. Não foram encontradas evidências de adulteração de modelos públicos, conjuntos de dados, Spaces, imagens de contêineres ou pacotes publicados. Hugging Face disse que o acesso inicial ao seu ambiente veio por meio de um conjunto de dados malicioso que abusou de um carregador de conjunto de dados de código remoto e injeção de modelo em uma configuração de conjunto de dados.
A atividade progrediu para acesso ao nó, coleta de credenciais e atraso movimento ral através de vários clusters internos. A Hugging Face disse que executou agentes de análise orientados pelo LLM em mais de 17.000 ações registradas para reconstruir a linha do tempo, extrair indicadores de comprometimento e mapear as credenciais que foram tocadas. As APIs de modelo de fronteira hospedadas comercialmente rejeitaram inicialmente os comandos de ataque, cargas úteis de exploração e artefatos de comando e controle necessários para a análise. Em vez disso, a empresa executou o modelo GLM 5.2 de peso aberto em sua própria infraestrutura, que também manteve os dados de ataque e credenciais referenciadas dentro de seu ambiente.
Seu conselho operacional era “ter um modelo capaz que você possa executar em sua própria infraestrutura, verificado e pronto antes de um incidente”. Neste caso, a vantagem foi o controle operacional. O incidente não estabelece a abertura do modelo como substituto da identidade, isolamento ou contenção. Conforme relatado anteriormente pelo The Hacker News, a OpenAI disse mais tarde que sua investigação preliminar descobriu que o GPT-5.6 Sol e um modelo de pré-lançamento mais capaz causaram o incidente enquanto operavam com recusas cibernéticas reduzidas durante uma avaliação interna do ExploitGym.
A divulgação da OpenAI descreve uma etapa anterior da cadeia. Os modelos exploraram uma vulnerabilidade de dia zero em um proxy de cache de registro de pacotes hospedado internamente para obter acesso à Internet. Eles então encadearam vulnerabilidades e credenciais roubadas nos sistemas OpenAI e Hugging Face enquanto buscavam respostas de referência. A OpenAI disse que uma cadeia encontrou um caminho de execução remota de código nos servidores Hugging Face.
A OpenAI disse que a Hugging Face detectou e interrompeu a atividade em sua infraestrutura e já havia iniciado a contenção e a reconstrução forense no momento em que as empresas se conectaram. As primeiras divulgações estabelecem que o modelo aberto ajudou o Hugging Face a reconstruir a intrusão e apoiou a sua resposta. Eles não mostram que o GLM 5.2 detectou, interrompeu ou conteve a violação de forma independente. A aliança segue uma carta da indústria de 24 de julho, argumentando que os modelos para download oferecem aos defensores capacidades comparáveis aos dos atacantes, reduzem a dependência de fornecedores individuais e permitem que o trabalho sensível permaneça na infraestrutura controlada pelo usuário.
OpenAI, Google e Meta aparecem entre os signatários da carta, mas estão ausentes da lista inaugural de membros da aliança. A Anthropic não aparece em nenhuma das listas em 27 de julho de 2026. A escalação por si só não explica essas ausências. Assinar a carta política e aderir a uma coligação técnica são compromissos diferentes, e os materiais públicos não dizem porque é que essas empresas estão ausentes, se estão em curso discussões sobre a adesão ou quais os membros que devem contribuir para aderir.
Várias tecnologias citadas no anúncio são anteriores à coalizão, incluindo o formato de modelo Safetensors da Hugging Face, identidade de carga de trabalho SPIFFE/SPIRE apoiada pela HPE, sistema de remediação Lightwell da IBM e Red Hat, chicote de segurança multimodelo MDASH da Microsoft e agente de codificação Grok Build da SpaceXAI. São projetos de membros, não produtos criados por alianças. A Elastic disse que contribuirá com pesquisa, ferramentas e conhecimento arquitetônico em segurança, pesquisa, observabilidade e detecção baseada em IA. CrowdStrike disse que está desenvolvendo técnicas que usam modelos abertos para detectar ataques contra sistemas e agentes de IA.
A Linux Foundation se descreveu como um parceiro inaugural e disse que seu papel é fornecer um local neutro para a colaboração de organizações concorrentes. Não afirmou que a aliança é formalmente hospedada ou governada como um projeto da Linux Foundation. O registo público não distingue entre membros que atribuem engenheiros para trabalho conjunto, contribuem com projectos existentes ou endossam a direcção da coligação. Fluxos de trabalho publicados, mantenedores, processos de lançamento ou códigos governados em conjunto tornariam o nível de participação conjunta mais fácil de avaliar.
Por enquanto, o registro público mostra uma coalizão, uma posição política, vários compromissos de membros e um novo lançamento de código identificável mantido pela NVIDIA, NOOA. A governança da aliança, roteiro conjunto, f o primeiro produto multimembro, e os modelos, pesos e conjuntos de dados prometidos pela NVIDIA permanecem não divulgados. Saiba como 300 líderes empresariais estão gerenciando riscos de código aberto orientados por IA, remediação de dívidas e governança em escala. Aprenda como controlar riscos, proteger software criado por IA e manter o controle à medida que o desenvolvimento avança na velocidade da máquina.
Receba as últimas notícias, insights de especialistas, recursos exclusivos e estratégias de líderes do setor, tudo gratuitamente.