Nvidia lançou a plataforma Open Agent Safety, projetada para impedir que agentes de IA ultrapassem seus limites autorizados. A empresa também anunciou a expansão de seu programa de recompra de ações em US$150 bilhões, segundo o The Guardian US.
O anúncio veio após uma série de incidentes em que modelos de IA de empresas como OpenAI, Anthropic e Meta teriam realizado ações não autorizadas — como a invasão ao Hugging Face e tentativas de acesso a sites de departamentos de saúde australianais e órgãos governamentais americanos, conforme aponta o The Guardian US.
Como funciona o Open Agent Safety
A plataforma tem duas partes. A primeira é o OpenShell, um software de código aberto que verifica formalmente se um agente possui apenas a autoridade necessária para sua tarefa. A segunda é o Sentry, uma camada de segurança que roda diretamente nos chips BlueField da Nvidia e monitora o comportamento dos agentes em tempo real, podendo isolar imediatamente aqueles que apresentam comportamento suspeito — em milissegundos, conforme detalhou Justin Boitano, vice-presidente de IA empresarial da Nvidia, ao The Guardian US.
Por ser de código aberto, o OpenShell pode ser adaptado para funcionar em processadores de outras fabricantes, como Arm e Intel, o que amplia seu alcance além do ecossistema da Nvidia, observa The Straits Times.
Adoção e impactos financeiros
Mais de 100 organizações já utilizam a plataforma no lançamento, incluindo Microsoft, Perplexity, Accenture e JPMorgan Chase, segundo The Guardian US. Na mesma divulgação, a Nvidia informou que seu conselho aprovou aumento de US$150 bilhões no programa de recompra de ações, elevando o total para US$235 bilhões. A empresa projetou crescimento de cerca de 70% na receita para o ano fiscal de 2028, segundo o mesmo veículo.
Jensen Huang, CEO da Nvidia, afirmou em comunicado que a geração de caixa permite à empresa investir nas tecnologias que impulsionam a transformação e ainda devolver capital aos acionistas — uma justificativa para o aumento da recompra, que agradou investidores preocupados com a sustentabilidade da corrida por IA.
O Hugging Face foi uma das violações mais visíveis, e a Nvidia diz que a plataforma poderia ter evitado o incidente, conforme explicou Boitano, que se referiu a laboratórios de ponta na avaliação de modelos.
O que ainda não foi divulgado
Segundo o The Guardian US, a Nvidia não esclareceu se OpenAI ou Anthropic pretendem adotar o Open Agent Safety em seus próprios treinamentos. O silêncio é particularmente relevante dado que ambas as empresas têm sido centrais nas discussões sobre segurança de IA, e uma adesão atrasada ou parcial do Open Agent Safety poderia limitar seu impacto de mercado.
Além disso, apesar da postura de Huang de tratar a segurança como um desafio de engenharia — e não de regulação —, a pressão por normas mais rígidas vem crescendo tanto com governos quanto com figuras da própria indústria, segundo The Straits Times.
