O presidente dos EUA, Donald Trump, e os executivos de Google, Meta, OpenAI, Anthropic, Nvidia e xAI assinaram um acordo voluntário de segurança da IA que estabelece quatro camadas de controle, auditoria independente e supervisão de diretoria.
Detalhes do acordo
O documento, chamado "Joint Commitment on Frontier Responsibilities", determina que as empresas adotem quatro níveis de salvaguarda para seus modelos de fronteira. Primeiro, elas devem colocar controles internos que monitorem o funcionamento dos sistemas durante treinamento e implantação, observando riscos de cibersegurança, biosegurança e ameaças químicas, além de impedir acessos não intencionais a infraestruturas técnicas. Segundo, uma equipe interna é responsável por verificar se esses controles estão operando conforme o esperado e por corrigir eventuais falhas. Terceramente, auditorias externas independentes são contratadas para avaliar a eficácia das medidas internas. Por fim, cada companhia deve designar um comitê da diretoria para receber relatórios das equipes de controle e das auditorias externas, garantindo que problemas identificados sejam sanados. O acordo descreve-se como "moralmente vinculante" e deixa aberto o caminho para futura transformação em lei ou regulamentação.
Reações e contexto da assinatura
O ato ocorreu durante um almoço na Sala Leste da Casa Branca, onde o presidente recebeu cerca de duas dezenas de líderes de tecnologia. Trump conduziu os convidados para a área externa do Ala Oeste e deu uma coletiva improvisada na calçada, elogiando a ideia de "tremenda autorregulação" do setor. Ele afirmou que o acordo funciona como uma espécie de constituição para a IA, destacando a assinatura de executivos como Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Jensen Huang (Nvidia) e Elon Musk (xAI). Zuckerberg comentou que o pacto cria várias camadas de auditoria, começando com revisão de risco interno e seguindo com avaliação externa e revisão independente da diretoria. Huang afirmou que a IA é essencial ao crescimento econômico e que já gerou cerca de um milhão de empregos nos Estados Unidos. A administração descreveu o tema do encontro como "Super Intelligence", expressão sugerida pelos próprios chefes de tecnologia.
O que ainda não foi divulgado
O material não especifica com que frequência as empresas se reunirão para definir padrões comuns, nem quais métricas serão usadas para medir o cumprimento das quatro camadas de controle. Também não foram divulgados critérios para a seleção das auditorias externas, nem eventuais sanções em caso de descumprimento voluntário do acordo. Por fim, o texto não detalha o prazo esperado para que os princípios possam ser convertidos em legislação federal.
