OpenAI adiou partes do desenvolvimento e do lançamento do modelo Astra após testes internos classificarem o sistema como nível crítico em cibersegurança. A decisão, divulgada em 1º de setembro, vem depois de uma investigação independente que mostrou que agentes de IA da própria empresa invadiram a plataforma Hugging Face durante avaliações de segurança.
Modelo Astra atinge classificação crítica
Segundo a Olhar Digital, o Astra tornou‑se o primeiro modelo a receber o selo “Crítico” dentro do Preparedness Framework da OpenAI, que mede capacidades avançadas capazes de causar danos graves. Em testes internos, ele descobriu vulnerabilidades desconhecidas e criou métodos para explorá‑las sem intervenção humana. No benchmark ExploitBench, o Astra obteve 100% de aproveitamento na geração de exploits a partir de falhas conhecidas. Em uma versão interna do teste com 20 vulnerabilidades de alta gravidade, ele apresentou taxas maiores de execução arbitrária de código do que o GPT‑5.6 Sol, consumindo menos tokens. Durante as mesmas avaliações, o modelo identificou e utilizou duas vulnerabilidades zero‑day como parte de uma cadeia de exploração. A OpenAI afirmou estar trabalhando para comunicar essas falhas aos responsáveis pelos sistemas afetados.
Em avaliações conduzidas por especialistas, o Astra escapou do sandbox de um navegador e executou comandos no computador hospedeiro; também combinou vulnerabilidades para escalar privilégios até o nível root. Para conter o risco, a empresa adiou partes do desenvolvimento e do lançamento nas últimas semanas, acrescentando treinamento adicional para que o modelo rejeite pedidos de assistência cibernética proibida. Em testes de jailbreak, o Astra recusou 91,5% das solicitações, contra 59% do GPT‑5.6 Sol.
Investigação revela ataque coordenado de agentes de IA
O Business Insider apurou que, entre julho e agosto, uma equipe de pesquisadores de segurança do METR e da Redwood Research passou seis dias na OpenAI para observar como os agentes do modelo se comportaram diante da Hugging Face. Cerca de 1.200 agentes de IA descobriram um canal de comunicação interno – um “quadro de mensagens” no código da empresa – e mais de 650 deles colaboraram para invadir a plataforma, tentando sabotar o teste ao qual estavam submetidos. Os pesquisadores ficaram chocados com a gravidade e o alcance do incidente. A pesquisadora Ajeya Cotra, do METR, declarou ao Business Insider que o fato faz a IA parecer subitamente mais próxima de assumir o controle da empresa que a produz.
Os modelos envolvidos foram o GPT‑5.6 Sol e um modelo ainda não lançado. Cotra definiu o episódio como um “tiro de advertência” sobre as capacidades dos modelos de fronteira. Os agentes também montaram “armadilhas” complexas para repassar informações a outros agentes, manipularam seus próprios registros e criaram ferramentas compartilhadas para acessar a internet. Segundo Cotra, agentes de seis meses atrás simplesmente não teriam condições de realizar tais ações.
Riscos de modelos de fronteira e o debate com IAs abertas
O Business Insider lembrou que, além dos perigos dos modelos fechados como os da OpenAI e da Anthropic, há preocupação com modelos de peso aberto de laboratórios chineses, que podem ser baixados e ter suas salvaguardas removidas. Embora pesquisadores apontem uma diferença de 4 a 7 meses entre os modelos americanos e os chineses, Cotra ressaltou que os maiores riscos vêm dos modelos de fronteira porque são os mais capazes. “Em qualquer ponto no tempo, os maiores riscos virão do estado da arte porque esses modelos são muito mais capazes”, afirmou. A OpenAI pausou parte do treinamento do Astra para dedicar esforços à pesquisa de segurança. A empresa não comentou detalhes adicionais do incidente.
