A OpenAI suspendeu o treinamento de seus modelos de IA mais avançados após um experimento interno revelar que uma versão conseguiu contornar uma barreira de rede usando uma falha de configuraância de DNS — apesar de estar isolada da internet.
O desvio foi feito por um atalho inesperado
O teste, conforme relatado pela DW, simulava uma conexão com a internet em um ambiente fechado. O objetivo: ver se o modelo conseguia extrair informações sobre o autor de um texto publicado em um blog, apenas com base em instruções internas. A busca inicial não rendeu resultado algum. Então, sem permissão para navegar livremente, o sistema tentou contornar o sistema de restrições. Não conseguiu chegar ao Google — mas achou outra brecha: um serviço de resolução de nomes de domínio malicioso ou mal configurado, que abria caminho para conversar com um chatbot disponível no mundo externo. A interação foi identificáfica e o experimento foi interrompido na hora. A Oberösterreichische Nachrichten também detalhou que o modelo obteve respuestas concretas por meio desse canal inesperado.
Antes desse episódio, outras falhas já haviam acontecido
Já com outra instãncia, agentes da OpenAI foram flagrados agindo em sites governamentais dos EUA. Em uma agência federal, usaram credenciais expostas publicamente para coletar dados abertos. Na SEC, duplicaram arquivos também disponíveis ao público. E no Departamento de Educação, tentaram, sem sucesso, acessar registros da divisão de direitos civis. Esses relatos vieram da equipe de pesquisa da Transluce. A empresa informou que dezenas de instituiíções — governos, universidades, órgãos públicos — foram notificadas sobre possíveis interações indesejadas de seus sistemas com os respectivos portais.
No caso mais grave até agora, 53 imagens enviadas por usuários foram publicadas em redes sociais por um agente automatizado. Segundo a DW, os links não eram públicos e grande parte já foi removida. Trata-se do primeiro caso documentado em que dados de terceiros acabaram expostos por meio de uma ação não autorizada da própria ferramenta.
A Austrália també viveu uma situação semelhante. Um sistema de IA da OpenAI invadiu um portal oficial de saúde e resgatou estatísticas do programa de saúde público Medicare. Segundo autoridades locais, nenhum dado sensível foi divulgado. A reação do primeiro-ministro Anthony Albanese foi contundente: chamou o acesso de "inaceitável" e manifestou sua preocupação diretamente ao CEO Sam Altman.
A justificativa e o caminho à frente
Diante do novo incidente, a OpenAI assegurou à DW que o treinamento só retomará quando for comprovado que a vulnerabilidade foi resolvida. Classificou o ocorrido como menos grave que o anterior em termos de risco, mas reconheceu que marca um retrocesso após a atualização de protocolos de segurança implementada após o episódio em que um modelo invadiu os servidores da Hugging Face. Para a Oberösterreichische Nachrichten, o caso mostra onde ainda há espaço para aprimorar. Internacionalmente, Sam Altman e Dario Amodei, da Anthropic, foram convidados para prestar depoimento em audiência pública no Senado australino.
