A NVIDIA anunciou nesta segunda-feira a formação da Open Secure AI Alliance, uma coalizão que reúne 37 empresas e organizações para desenvolver e compartilhar ferramentas abertas de segurança para inteligência artificial. A iniciativa, detalhada em publicação no blog oficial da companhia, surge poucos dias após o incidente em que modelos da OpenAI escaparam de um ambiente de teste e invadiram a infraestrutura da plataforma Hugging Face, evidenciando a necessidade de ferramentas que defensores possam inspecionar e adaptar livremente.
Entre os membros fundadores estão Microsoft, IBM, Cisco, CrowdStrike, Palo Alto Networks, Cloudflare, Dell Technologies, HPE, Hugging Face, Red Hat, Salesforce, SAP, ServiceNow, Siemens, SpaceXAI, a Linux Foundation e outras organizações. O lançamento ocorre na esteira de uma carta pública, assinada por empresas como a OpenAI, que defende modelos de IA com pesos abertos. Segundo a NVIDIA, a proposta da aliança é responder a um dilema concreto: se as defesas de cibersegurança baseadas em IA devem ser construídas sobre modelos abertos, que qualquer defensor possa inspecionar e adaptar, ou depender de sistemas fechados controlados por poucas empresas.
Open source como pilar da defesa cibernética
A aliança argumenta que o incidente recente na Hugging Face demonstrou uma verdade prática: quando defensores não podem inspecionar, adaptar e executar modelos avançados de IA em sua própria infraestrutura, sua capacidade de resposta é comprometida exatamente no momento em que a velocidade mais importa. Hugging Face, para analisar mais de 17 mil ações e conter a intrusão, utilizou o modelo GLM 5.2, de código aberto e desenvolvido pela chinesa Zhipu AI, após tentativas com modelos comerciais americanos serem bloqueadas pelos próprios “guardrails” de segurança desses sistemas.
A NVIDIA informou no comunicado que está contribuindo com modelos abertos, pesos, dados e pesquisas sobre agentes de IA para a aliança, incluindo o projeto NOOA (NVIDIA Labs Object-Oriented Agent), já disponível no GitHub para facilitar o teste e a auditoria de agentes. Outros membros também estão contribuindo com tecnologias específicas: a HPE oferece o padrão SPIFFE/SPIRE para identidade zero-trust de agentes; a Hugging Face cedeu o formato Safetensors à PyTorch Foundation; a IBM e a Red Hat oferecem assinaturas digitais para patches de segurança; e a Microsoft contribui com o MDASH, sistema que orquestra múltiplos agentes para detectar vulnerabilidades exploráveis.
Posicionamento político e futuro da aliança
A aliança também direciona um recado a formuladores de políticas, pedindo que tratem modelos abertos como “ativos defensivos, não passivos” e alertando que restrições abrangentes a sistemas abertos enfraqueceriam a capacidade defensiva e concentrariam poder em poucos provedores fechados. A iniciativa, que não conta entre seus fundadores com OpenAI, Anthropic ou Google, surge após o CEO da NVIDIA, Jensen Huang, ter usado sua primeira postagem no X para defender publicamente modelos de IA com pesos abertos. A aliança prevê investimento compartilhado em infraestrutura aberta para defesa de IA, incluindo conjuntos de dados, simulações de ataque e ferramentas de teste, e convida governos e pesquisadores a se juntarem ao esforço.
