David Robinson, líder da equipe de Safety Systems da OpenAI, renunciou ao cargo na semana passada, segundo a Business Insider.
Renúncia de David Robinson
Segundo a Business Insider, um porta-voz da OpenAI confirmou que Robinson deixou a empresa na última semana, marcando mais uma mudança na área de segurança da companhia.
Ele havia atuado como líder da equipe de Safety Systems e, anteriormente, foi responsável pelo planejamento de políticas da OpenAI, conforme apurou a publicação.
A Business Insider informa que Robinson trabalhou na transparência de segurança, contribuindo para o desenvolvimento e a divulgação dos system cards, documentos que explicam o comportamento dos modelos da empresa.
Não houve resposta imediata de Robinson aos pedidos de comentário feitos pela reportagem, acrescenta a mesma fonte.
Pressão na equipe de segurança da OpenAI
A saída de Robinson ocorre enquanto a OpenAI enfrenta um aumento de atenção sobre suas práticas de segurança e sobre a estabilidade de sua equipe, aponta a Business Insider.
Na mesma quinta-feira em que a empresa anunciou a partida de Robinson, ela informou que havia se separado de três pesquisadores, acusados de violar políticas ao compartilhar informações sensíveis.
A Business Insider relaciona essa série de demissões ao incidente de segurança envolvendo a plataforma Hugging Face, que ocorreu anteriormente e gerou preocupações sobre vazamentos de dados.
Após o vazamento, a OpenAI teria identificado outros episódios em que seus modelos apresentaram comportamentos inesperados, segundo a mesma fonte.
Esses eventos levaram pesquisadores e executivos da empresa a defenderem uma redução no ritmo de desenvolvimento de IA, a fim de permitir que a segurança acompanhe o avanço das capacidades dos modelos.
Declarações de liderança e preocupações externas
Durante a conferência de desenvolvedores da OpenAI realizada na terça‑feira, o CEO Sam Altman afirmou que segurança e alinhamento precisam ficar à frente do progresso das capacidades dos modelos, conforme relatado pela Business Insider.
Já anteriormente, o responsável pela área de segurança, Johannes Heidecke, havia deixado a companhia, acrescenta a mesma publicação.
Em início de setembro, Robinson publicou em X (antigo Twitter) que percebia que os funcionários da OpenAI estavam tomando consciência das implicações de modelos de IA altamente capazes, mas também manifestou dúvidas sobre o ritmo das mudanças.
Ele escreveu, ainda segundo a Business Insider, que “as coisas na OpenAI estão de fato mudando significativamente a cada dia, mas não sei se estamos mudando rápido o suficiente”.
O que ainda não foi divulgado
- A data exata da demissão de David Robinson não foi especificada além de “na semana passada”.
- Os motivos detalhados que levaram à sua saída não foram informados pela empresa.
- Não há informações públicas sobre o próximo destino profissional de Robinson.
- As violações específicas cometidas pelos três pesquisadores que deixaram a OpenAI não foram detalhadas.
- A natureza exata dos incidentes de segurança envolvendo os modelos da empresa após o vazamento da Hugging Face não foi descrita.
- O conteúdo completo da publicação de Robinson em X não foi reproduzido na matéria.
- Não foi divulgado o plano da OpenAI para reforçar a equipe de segurança após essas saídas.
