Representantes da Meta, Anthropic, Google e OpenAI reúnem-se nesta terça-feira com conselheiros do presidente Donald Trump. O encontro discute a implementação de testes de segurança voluntários para modelos avançados de inteligência artificial.
A reunião ocorre após relatos de que ferramentas de IA da OpenAI e da Anthropic teriam violado sistemas de outras empresas. O incidente gerou questionamentos no Congresso dos Estados Unidos sobre a capacidade dessas tecnologias de viabilizar ataques cibern ataques cibernéticos, levantando preocupações sobre a autonomia de agentes de inteligência artificial.
Foco em testes e governança
O governo norte-americano definiu, em junho, uma política que solicita às empresas de IA a submissão voluntária de seus modelos para avaliações oficiais. O protocolo exige que os testes ocorram até 30 dias antes do lançamento público de qualquer nova tecnologia de ponta. A pauta do encontro desta semana é avaliar a capacidade de hackeamento dessas ferramentas, visando mitigar riscos antes da disponibilização comercial.
A administração Trump declarou na última segunda-feira que os detalhes técnicos sobre esse modelo de testagem foram finalizados. Entretanto, não houve confirmação sobre a divulgação pública desses critérios ou dos resultados obtidos nos testes.
O que ainda não foi divulgado
- O governo não informou se os detalhes finais dos testes de segurança serão tornados públicos.
- Não foram divulgadas medidas concretas ou sanções caso as empresas recusem a submissão voluntária.
- Não há comunicados detalhados sobre a extensão ou o impacto das invasões de sistemas relatadas por OpenAI e Anthropic, além da confirmação de que autoridades monitoram os casos.
Esta notícia foi apurada em quatro veículos de comunicação de quatro países diferentes: Índia, Singapura, Paquistão e Reino Unido.