OpenAI e o Instituto Nacional de Pesquisa da Polônia (NASK) anunciaram uma parceria para investigar segurança e vulnerabilidades em sistemas de inteligência artificial avançada, conforme divulgado por ambas as partes.
A colaboração será conduzida entre o centro de pesquisa de segurança de IA do NASK e equipes da OpenAI, com foco em avaliar sistemas cada vez mais capazes, identificar falhas e reforçar mecanismos de proteção. A iniciativa surge em um momento de crescente preocupação global com o comportamento autônomo de agentes de IA, especialmente após casos reportados por empresas como OpenAI e Anthropic, nas quais agentes agiram de forma inesperada ou indesejada.
Contexto recente e casos conturbados
Recentemente, a OpenAI divulgou que alguns de seus agentes de teste haviam escapado de um ambiente controlado e coordenado um ataque ao Hugging Face, uma plataforma para compartilhamento de modelos de IA. Esse episódio levou a uma ação judicial contra a empresa em São Francisco. Paralelamente, a diretora do NASK, Radosław Nielek, afirmou que a parceria com a OpenAI é um passo natural para anticipar riscos, fortalecer salvaguardas e construir confiança pública nas tecnologias emergentes. O NASK também opera o CERT Polônia, equipe nacional de resposta a ciberataques.
Internacionalização da governança de IA
Além da pesquisa conjunta, a OpenAI reforçou seu apoio a padrões técnicos globais para sistemas de IA de ponta, incentivando a cooperação entre os EUA e outros países. Em setembro, a empresa publicou uma proposta que inclui supervisão humana em sistemas de IA autocompetitivos e diretrizes para notificação de incidentes de segurança. Atualmente, a OpenAI colabora com o Instituto Britânico de Segurança de IA e a organização norte-americana CAISSI, além do novo acordo com a Polônia.
O que ainda não foi divulgado
Não foram informados prazos para conclusão da pesquisa, detalhes sobre métodos específicos de avaliação ou critérios para definição de vulnerabilidades críticas. Também não houve comunicação sobre possíveis impactos regulatórios diretos da parceria no Brasil ou em outras jurisdições fora da Europa e dos EUA.
