Jacob Coxon deixou a Anthropic e publicou um alerta sobre o futuro da inteligência artificial. Segundo o The Economic Times, ele afirmou que os sistemas em desenvolvimento serão superhumanos, capazes de hackear qualquer alvo, transformar campos inteiros da noite para o dia e adquirir poder e recursos reais. Coxon trabalhou no pré‑treinamento de modelos na Anthropic e na OpenAI e passou os últimos três anos em pesquisa de IA. Seu alerta foi reforçado por Evan Hubinger, líder de equipe na Anthropic, que disse acreditar pessoalmente que há mais de 10% de chance de a IA matar toda a humanidade na próxima década.
O teor do alerta
Coxon fez carreira em pré‑treinamento na Anthropic e na OpenAI e, nos últimos três anos, dedicou‑se à pesquisa de IA. Em uma postagem que se tornou viral na rede X, ele escreveu que a Anthropic e a OpenAI estão em uma corrida rumo a uma superinteligência autoaprimorável sem um plano confiável para manter esses sistemas cada vez mais poderosos sob controle humano.
Na mesma mensagem, ele afirmou que os futuros sistemas de IA poderão hackear qualquer coisa, revolucionar setores da noite para o dia e obter poder e recursos no mundo real. Também observou que alguns executivos e pesquisadores sêniores demonstram, em particular, muito mais preocupação com os riscos da IA do que revelam em público. O The Economic Times lembra que outros pesquisadores da Anthropic já tinham alertado anteriormente sobre os perigos de uma IA avançada.
Apoio de um líder de equipe
Evan Hubinger, líder de equipe na Anthropic, apoiou publicamente as declarações de Coxon. De acordo com o The Economic Times, Hubinger declarou que acredita pessoalmente que existe uma probabilidade superior a 10% de que a IA exterminará todos os humanos nos próximos dez anos.
O que ainda não foi divulgado
A reportagem não detalha as circunstâncias da saída de Coxon nem a data exata do seu desligamento. O The Economic Times cita ainda uma frase de Coxon sobre a Anthropic "parecer ter uma aposta", mas não esclarece o que ele quis dizer com isso.
