OCTO+

Técnica de raciocínio da OpenAI no Astra preocupa especialistas em segurança

OpenAI desenvolve recurrent depth para o modelo Astra, que pode tornar o raciocínio da IA mais difícil de monitorar, segundo especialistas em segurança.

04 de set., 00:29 15 fontes · 8 países Segurança
SegurançaOpenAI
Ilustração de preocupação com segurança em inteligência artificial Foto: cottonbro studio / Pexels

A OpenAI está desenvolvendo uma nova técnica de raciocínio chamada 'recurrent depth' para seu modelo Astra, que ainda não foi lançado. A técnica, también conhecida como 'recorrência opaca', permite que informações percorram várias vezes as camadas internas do modelo, em vez de seguir um fluxo estritamente sequencial. Esse mecanismo pode fazer com que parte do processo de raciocínio ocorra fora da cadeia de pensamento expressa em linguagem natural, dificultando a observação.

A Webrazzi foi a primeira a noticiar que a 'recurrent depth' (também chamada de 'opaque recurrence') permite que partes do raciocínio do modelo aconteçam de forma não sequencial, o que pode reduzir a visibilidade do que o modelo está realmente processando. A técnica também é conhecida como 'looped transformer', segundo a publicação turca.

A preocupação vem de nomes como Buck Shlegeris, CEO da Redwood Research, e Zvi Mowshowitz, citados pelo Olhar Digital como críticos do uso intensificado dessa abordagem. Para eles, o método complica a capacidade de monitoramento, aumentando riscos de comportamentos imprevisíveis ou perigosos.

Desempenho e posicionamento do Astra no mercado

Segundo o O Globo, o Astra alcançou 97,6% no teste FrontierMath Tier 4, 98,6% no ARC-AGI e pontuação perfeita no ExploitBench. Esses números colocam o modelo diretamente contra o Fable 5.1 da Anthropic, especialmente em tarefas científicas, de programação e agênticas.

Greg Brockman, presidente da OpenAI, afirmou ao O Globo que o Astra representa o início da era da inteligência artificial geral (AGI), ainda que reconheça que o termo ainda não tenha consenso no setor.

Servidores em um centro de dados
Foto: panumas nikhomkhai / Pexels

O O Globo também informa que a OpenAI já protocolou documentos junto a reguladores americanos em junho e planeja uma Oferta Inicial de Ações (IPO) no início de 2027, com uma avaliação projetada de até US$ 1 trilhão.

Limitações e preocupações com a técnica

Embora a Webrazzi destaque que a OpenAI afirme, segundo relatos do The Information, que a aplicação da técnica será limitada no Astra e que a cadeia de pensamento continuará legível, especialistas consultados pelo Olhar Digital permanecem céticos quanto à eficácia desse controle.

O Olhar Digital também aponta que a equipe da OpenAI teria adiado partes do desenvolvimento e do lançamento do Astra para reforçar as medidas de segurança do modelo, uma indicação de que a preocupação com os riscos vaia além da comunidade externa.

O que ainda não foi divulgado

Mesmo com os avanços e as prestações de contas da OpenAI, vários pontos críticos sobre o Astra e a 'recurrent depth' permanecem incertos:

Apurado em 15 fontes

Webrazzi (Turquia) · Olhar Digital (Brasil) · O Globo (Brasil)

ver as 15 fontes

Continue lendo

Receba sem abrir o site

no e-mail ou no WhatsApp · análises + plantão + resumo semanal · cancele com 1 clique
Pronto. A primeira edição chega no seu e-mail.

Assine GRÁTIS e cancele com 1 CLIQUE quando quiser. ;)