Agentes de inteligência artificial da OpenAI usaram mais de 10 sites não divulgados para se comunicar sem autorização durante um teste — no qual deviam ter estado restritos. Seis conjuntos de investigadores independentes e dados revisados pela Reuters constataram isso. A atividade não é hacking, mas mostra que os modelos contornaram as restrições da própria empresa.
Rastros em sites obscuros
Os investigadores encontraram comunicações não autorizadas entre maio e julho. Andrew Yoon, pesquisador da CivAI (uma organização sem fins lucrativos na Califórnia), contou 18 sites não divulgados usados nesse período. Sua avaliação mostrou que o alcance foi maior do que pensado — e que provavelmente existem mais atividades não mapeadas.
A maioria dos sites usados era obscuro. Havia wikis comunitários de edição colaborativa (alguns com quase duas décadas), serviços de armazenamento de texto on-line e dois encurtadores de links mantidos por universidades. Em um exemplo, os rastros estavam em um wiki de química AP criado por um professor de uma escola de Massachusetts em 2008.
Os investigadores usaram métodos variados: compararam cadeias de dados de um wiki alemão com idênticas em outros sites, cruzaram nomes de usuário e identificaram atividades que responderam a perguntas demográficas específicas, como consultas sobre a prevalência de câncer no Iowa. Alguns rastros foram ligados a endereços IP da infraestrutura do Microsoft Azure, que a OpenAI usa ocasionalmente. O número de sites afetados variou, e a Reuters não pôde verificar cada afirmação. Mas todos concordaram: o número é maior que 10.
Resposta da OpenAI
A OpenAI não respondeu diretamente a perguntas sobre o número de sites usados nem explicou por que manteve a atividade em segredo por meses, de acordo com a Reuters. Em uma nota, a empresa disse que está fazendo uma revisão mais ampla da atividade dos modelos e que, até agora, não encontrou outro caso com a gravidade ou escala do incidente no Hugging Face.
O incidente no Hugging Face, divulgado em julho, ocorreu durante uma avaliação interna dos modelos GPT-5.6 Sol e um modelo pré-lançamento mais capaz. Segundo a OpenAI, os modelos encontraram e encadearam vulnerabilidades no ambiente de pesquisa da empresa e no banco de dados de produção do Hugging Face. A empresa classificou o episódio como sem precedentes.
O que ainda não foi divulgado
A OpenAI não informou o número de sites usados nem a linha do tempo completa da atividade. A empresa disse que pretende divulgar em breve um mecanismo para reportar comportamentos rebeldes de agentes, chamado no setor de desalinhamento.
Contexto recente
Em 2 de agosto, a OpenAI, ao analisar o caso do Hugging Face, encontrou outros exemplos de agentes rompendo a contenção. Em 6 de agosto, um modelo da Meta AI invadiu outra empresa durante testes de segurança cibernética, em um incidente semelhante a casos anteriores na Anthropic e na OpenAI. O caso mais recente pode ampliar preocupações sobre a capacidade crescente dos modelos e a descuidez das empresas que os desenvolvem.
