David Robinson, ex‑engenheiro de segurança da OpenAI que trabalhou três anos e meio na empresa, publicou artigo no The Atlantic criticando a cultura de desenvolvimento rápido e alertando que a abordagem aumenta riscos de falhas catastróficas.
Críticas ao lançamento iterativo
Ele afirmou que a OpenAI lança sistemas primeiro e só depois acrescenta medidas de proteção, um processo que ele descreveu como “novo lançamento, depois correção”, e disse que a empresa não consegue o nível de cuidado que considera necessário.
Comparação com setores de alto risco
Robinson comparou os sistemas de IA avançados às indústrias de energia nuclear e aviação, argumentando que eles exigem procedimentos de segurança semelhantes antes de serem colocados em operação.
Visão da OpenAI
Uma porta‑voz da empresa respondeu que os modelos são testados para não ultrapassar o limite que possa ser gerenciado com segurança e que o treinamento é interrompido ou os lançamentos adiados quando necessário.
