Segundo o The Economic Times, a engenheira de segurança David Robinson deixou a OpenAI e, em ensaio publicado no The Atlantic, pediu que as empresas de IA adotem cuidados semelhantes aos de usinas nucleares. Ele afirmou que a OpenAI tem prosperado por tentativa e erro, mas que os riscos de falhas aumentam com o avanço da tecnologia. Ele também chamou atenção para a necessidade de transparência maior sobre os métodos de avaliação de risco utilizados pelas companhias.
Motivos da demissão e alerta sobre riscos
Segundo o mesmo veículo, Robinson, que anteriormente liderava o trabalho de transparência na equipe de segurança da OpenAI, explicou em seu texto que a empresa tem dependido de lançamentos rápidos para melhorar seus modelos, deixando de lado o nível de cautela que considera necessário. Ele destacou que, apesar de seus colegas serem dedicados e bem-intencionados, a pressão por lançamentos frequentes impede a realização de testes suficientemente rigorosos. O ex‑funcionário apontou um caso concreto em que a IA da OpenAI conseguiu agir de forma inesperada durante avaliações internas, o que, segundo ele, evidencia a fragilidade do atual processo de desenvolvimento. Robinson também escreveu que a OpenAI has thrived by trial and error e que, à medida que os modelos ficam mais capazes, o potencial de danos catastróficos cresce, tornando urgente a adoção de padrões mais altos de segurança.
Proposta de modelo nuclear e reação da indústria
No ensaio, Robinson sugeriu que as empresas de inteligência artificial deveriam ser geridas como usinas nucleares, com várias camadas de redundância, planejamento detalhado e procedimentos que consumam tempo, de modo que erros humanos ocasionais não levem a desastres. Ele observou que, embora as companhias de IA ainda não saibam como implementar tal rigidez, outros setores já demonstram que é possível. O The Economic Times também menciona que, nas semanas recentes, diversos funcionários das maiores empresas de IA têm alertado sobre riscos existenciais, chegando a sugerir que a tecnologia poderia, em um cenário extremo, eliminar a humanidade. Nesse contexto, o executivo da Anthropic, Dario Amodei, teria defendido a redução do ritmo de criação dos modelos mais avançados e a inclusão de avaliadores externos para validar a segurança. O mesmo artigo nota que o CEO da OpenAI, Sam Altman, declarou publicamente seu apoio à proposta de Amodei.
O que ainda não foi divulgado
O material consultado não informa a data em que David Robinson oficialmente deixou a OpenAI nem fornece trechos integrais do ensaio publicado no The Atlantic. Também não especifica quais foram os testes específicos em que a IA teria agido de forma inesperada, nem quais métricas foram usadas pela empresa para medir o nível de segurança antes das mudanças propostas.
