A Open Secure AI Alliance (OSAA), coalizão liderada pela Nvidia, apresentou uma proposta formal para padronizar a resposta a incidentes de segurança cibernética envolvendo inteligência artificial. A iniciativa, que conta com a adesão de mais de 120 empresas, estabeleceu o grupo de trabalho Shared AI Findings Exchange (SAFE) para coordenar a colaboração técnica do setor.
Estrutura de resposta a incidentes
As diretrizes apresentadas durante a conferência Black Hat, em Las Vegas, focam em criar fluxos padronizados para o ecossistema tecnológico. O modelo proposto inclui mecanismos de notificação confidencial de vulnerabilidades, protocolos de alerta para partes afetadas e um sistema de análise pós-incidente voltado ao aprendizado coletivo, eliminando a cultura de apontamento de culpados. A gestão das contribuições públicas para esta proposta está sendo realizada pela Linux Foundation.
Colaboração tecnológica e ferramentas
Além da governança, o grupo está catalogando tecnologias de código aberto que auxiliam na proteção de agentes de IA. Empresas membros já contribuíram com ferramentas específicas, como o scanner de vulnerabilidades Garak, da Nvidia, tecnologias de identidade de agentes fornecidas pela Okta e estruturas de governança desenvolvidas pela Red Hat. A Amazon também integrou o esforço ao disponibilizar o framework Strands Agents e a linguagem de autorização Cedar.
- A aliança inclui empresas como Adobe, BlackRock, Cisco, Intel, Microsoft e Visa.
- A notícia foi apurada em 3 veículos de 3 países: Coreia do Sul, Estados Unidos e Bangladesh.
O que ainda não foi divulgado
Até o momento, não foram detalhados os prazos para a implementação das normas propostas ou a data para a finalização da fase de consulta pública. Também não foi informada a adesão de empresas como OpenAI, Anthropic e Google ao grupo de trabalho até o fechamento desta nota.
