Jacob Coxon renuncia da Anthropic, alerta para superinteligência fora de controle

Jacob Coxon, pesquisador britânico de 27 anos que trabalhava na Anthropic, anunciou sua renuncia da empresa e da indústria de IA em uma série de posts no X, dizendo que nenhuma companhia consegue desenvolver esses sistemas de forma responsavelmente sem intervenção estatal e alertando para o risco de uma superinteligência fora de controle.

Motivo da renuncia segundo o Le Figaro

O Le Figaro informa que Coxon, de 27 anos, publicou na terça-feira à tarde sete mensagens na plataforma X que chegaram a dois milhões de visualizações em menos de duas horas. Nadele, ele afirma que nenhuma das duas empresas — Anthropic e OpenAI — age de forma responsável, e que correm direto para uma superinteligência capaz de se aperfeiçoar sozinha e brincam com nossas vidas.

Críticas às práticas de Anthropic e OpenAI segundo a imprensa mexicana

Os artigos do El Sol de México e do El Sol de La Laguna destacam que o investigador questionou as práticas perigosas empregadas por Anthropic e OpenAI no desenvolvimento da inteligência artificial, vendo essas abordagens como inadequadas frente ao potencial de sistemas que podem rapidamente se tornar sobrehumanos.

Visão sobre a corrida global e os riscos futuros

Segundo o Le Figaro, Coxon diz que a competição entre laboratórios americanos e chineses faz com que compromissos de segurança sejam vistos como inevitáveis. Ele acrescenta que os sistemas de IA ficarão em breve capazes de piratar qualquer coisa, revolucionar qualquer domínio da noite para o dia e adquirir poder e recursos reais.

Contradição entre crenças privadas e ações públicas

Coxon relata que, em conversas privadas, profissionais do setor expressam seu medo sobre os perigos da IA, enquanto em público procuram parecer razoáveis. Ele questiona: se esses profissionais realmente acreditam que a tecnologia pode levar à extinção, por que continuam a desenvolvê-la?

Histórico profissional

O Le Figaro também menciona que, antes de ingressar na Anthropic, Coxon trabalhava na OpenAI, onde teve contato com o treinamento de novos modelos a partir de grandes volumes de dados. Sua saída da OpenAI ocorreu anteriormente neste ano, após o que se juntou à Anthropic.