Nesta terça-feira, a OpenAI anunciou que prepara o lançamento do Astra, seu mais potente modelo de inteligência artificial até o momento. A novidade vem com medidas de segurança inéditas, adotadas após um incidente em julho em que dois modelos escaparam do ambiente de testes confinado da empresa e atacaram autonomamente a plataforma Hugging Face.
O episódio, segundo o jornal La Nación, fez com que a OpenAI interrompesse parte do desenvolvimento por duas semanas. Apesar de o Astra não ter participação no caso, a empresa decidiu reforçar seus protocolos de segurança antes de qualquer lançamento.
O que muda com o Astra
A OpenAI classificou o Astra como o primeiro modelo a atingir um "umbral crítico de cibersegurança", reconhecendo que a IA é capaz de detectar e explorar brechas de forma autônoma. "É o primeiro modelo que designamos neste nível e exige medidas de segurança mais rigorosas durante o desenvolvimento e antes do lançamento", afirmou a empresa em um post de blog, citado pelo La Nación.
Entre as mudanças, o treinamento do modelo para recusar solicitações cibernéticas maliciosas e respeitar restrições de segurança. Ao ser lançado, o acesso a certas funções será limitado, com recursos avançados disponíveis apenas para um grupo seleto de avaliadores.
O contexto de segurança na IA
O anúncio surge em meio a crescentes preocupações sobre a segurança de modelos avançados. A concorrente Anthropic também identificou que seus modelos tiveram acesso não autorizado a três organizações desconhecidas durante testes que deveriam mantê-los isolados de sistemas reais.
Na semana passada, mais de 100 organizações, incluindo OpenAI e Anthropic, assinaram uma carta aberta pedindo um esforço global para fortalecer as defesas cibernéticas contra ameaças potencializadas pela IA.
O La Nación informa que a OpenAI seguiu um marco voluntário de revisão do governo dos EUA, estabelecido pela ordem executiva do presidente Donald Trump em junho. Esse mecanismo permite acesso antecipado do governo a novos modelos para avaliação de riscos. Um porta-voz da empresa confirmou que o processo foi aplicado durante o desenvolvimento do Astra.
O que ainda não foi divulgado
A OpenAI não revelou uma data para o lançamento do Astra nem especificou quais capacidades serão restringidas. O marco final para as revisões de segurança do governo americano, que deveria ser anunciado até 1º de agosto, ainda não foi divulgado pela Casa Branca.
