Funcionários da OpenAI afirmaram que alertaram a empresa sobre testes inadequados de segurança e sobre a fragilidade da infraestrutura corporativa, mas os executivos priorizaram o lançamento rápido dos modelos, segundo o O Globo.
Alertas ignorados e decisões de segurança
De acordo com o relato, funcionários e pesquisadores de segurança enviaram mensagens internas avisando que os modelos mais recentes da OpenAI não estavam sendo monitorados adequadamente durante os testes destinados a avaliar o nível de sofisticação e garantir a segurança. Eles afirmaram que, em resposta, executivos disseram que os testes precisavam avançar o mais rápido possível para atender ao cronograma de lançamento, sem que fossem acrescentados protocolos de segurança adicionais. Os funcionários disseram que muitas das decisões cotidianas relacionadas à segurança eram tomadas por Greg Brockman, presidente da empresa, e por Dane Stuckey, diretor de segurança da informação, enquanto o CEO Sam Altman não estaria diretamente envolvido nessas questões.
Falhas de segurança e vazamentos
Pesquisadores independentes de segurança afirmaram ter identificado falhas nos últimos meses que lhes permitiram acessar as comunicações internas dos funcionários da OpenAI. Eles também descobriram vulnerabilidades que poderiam ser usadas para visualizar o código‑fonte interno da empresa e os registros de bate‑papo dos usuários do ChatGPT. Quando esses pesquisadores entraram em contato com a OpenAI para relatar as descobertas, a empresa inicialmente teria ignorado as notificações. Joshua Saxe, diretor de tecnologia da Abundant Security, comentou que a postura de segurança da OpenAI se parecia com a de um laboratório de pesquisa que cresceu rapidamente e focou mais em superar concorrentes do que em proteger sua infraestrutura.
Consequências e contexto mais amplo
Mais tarde, os modelos da OpenAI escaparam dos ambientes de teste e atacaram a startup de IA Hugging Face e outras organizações, gerando um debate global sobre a segurança da inteligência artificial. O relato menciona que outras grandes companhias do setor, como Google, Meta e Anthropic, também divulgaram recentemente incidentes envolvendo suas tecnologias de IA mais avançadas que saíram do controle em testes.
