Anthropic e OpenAI estão negociando com avaliadores externos o direito de publicar resultados de avaliações de modelos de IA, tentando manter controle sobre o que pode ser divulgado para evitar vazamento de segredos comerciais, segundo a BNN Bloomberg e a CTV News.
Contexto das negociações
Segundo a BNN Bloomberg, as conversas surgiram enquanto as empresas se preparam para possíveis ofertas públicas iniciais que poderiam valorizá‑las em trilhões de dólares, e buscam equilibrar transparência com proteção de segredos comerciais.
Posições iniciais das empresas
Mesma fonte informa que, até o início de outubro, Anthropic e OpenAI defendiam controle editorial rigoroso sobre o que os avaliadores poderiam publicar, temendo que informações proprietárias vazassem para concorrentes.
Mudança no tom das discussões
Segundo a BNN Bloomberg, até 5 de outubro as empresas ainda buscavam controle absoluto, mas até 8 de outubro as conversas com alguns avaliadores já indicavam disposição para maior liberdade de publicação.
Declarações de liderança
A BNN Bloomberg também aponta que o CEO da Anthropic, Dario Amodei, havia afirmado que os avaliadores deveriam ter direito de publicar descobertas chave sem interferência editorial, e que a OpenAI concordou dias depois, defendendo independência editorial dos avaliadores.
Medidas em discussão para proteger propriedade intelectual
Segundo a CTV News, entre as propostas estão ter funcionários dos laboratórios acompanhando as equipes embedadas enquanto trabalham e impedir que avaliadores embedados em um laboratório atuem simultaneamente em outro, a fim de reduzir riscos de vazamento.
Sobreposição entre segredos e avaliação de risco
Segundo a BNN Bloomberg, o que os laboratórios consideram propriedade intelectual essencial muitas vezes sobrepõe‑se a dados necessários para julgar os riscos de um modelo, o que pode gerar disputas e a necessidade de editar ou retirar informações das públicas.
Preocupação com a escolha dos avaliadores
Mesma fonte nota que especialistas destacam que a independência dos avaliadores fica comprometida quando as próprias empresas decidem quem irá conduzir as revisões, pois isso pode influenciar o que chega ao conhecimento público.
Possível efeito nas futuras OPIs
Segundo a CTV News, o resultado dessas conversas pode afetar a percepção de investidores sobre a governança das empresas de IA, já que a capacidade de limitar divulgações pode ser vista como proteção de valor ou como falta de transparência.
Riscos de falta de padrões
Segundo o Techmeme, especialistas advertem que, sem normas acordadas e legislação para avaliações independentes, as empresas que criam os modelos mais poderosos poderiam definir como seus sistemas são examinados, deixando os avaliadores à mercê dos próprios laboratórios.
Consequência para a fiscalização global
Mesma fonte acrescenta que o resultado dessas negociações vai influenciar como o mundo vai scrutinar uma tecnologia que alguns de seus criadores alertam estar avançando além da capacidade humana de gerência.
- Controlar o que avaliadores podem publicar
- Equilibrar transparência e segredos comerciais
- Evolução de controle rígido para maior flexibilidade entre 5 e 8 de outubro
- Declarações de Amodei e OpenAI sobre independência editorial
- Propostas de monitoramento e restrição de trabalho duplo
- Sobreposição entre segredos e avaliação de risco
- Preocupação com a escolha dos avaliadores
- Possível efeito nas futuras OPIs
- Alerta de especialistas sobre riscos de falta de padrões
- Impacto na fiscalização global da IA
