O pesquisador Jacob Coxon, que trabalhou três anos na OpenAI e na Anthropic como parte de suas atividades de pré‑treinamento, anunciou sua renúncia e alertou que a inteligência artificial pode matar pessoas.
Reação do governo canadense
Segundo a BNN Bloomberg, o ministro de Inteligência Artificial do Canadá, Evan Solomon, declarou que o governo está acompanhando de perto a situação após a saída do pesquisador, que afirmou que profissionais do setor temem que a IA possa 'nos matar todos'.
Solomon destacou que tais alertas não são novidade e apontou para a existência de caminhos regulatórios e técnicos capazes de reduzir os riscos da IA, citando a proposta de nova legislação de privacidade e a criação de um regulador com poder de responsabilizar as grandes corporações de tecnologia.
Ele anunciou que o governo federal vai destinar 13 milhões de dólares a um programa nacional de alfabetização em IA, denominado 'AI essentials', que será oferecido a estudantes, professores e ao público em geral, em parceria com o Alberta Machine Intelligence Institute, um dos três institutos nacionais de IA do Canadá.
O ministro também mencionou que a iniciativa inclui a colaboração com outros países para desenvolver padrões de proteção aos cidadãos e ressaltou o trabalho contínuo do pioneiro canadense Yoshua Bengio em pesquisas de IA segura.
Além disso, Solomon revelou que, na semana anterior, havia divulgado princípios voluntários para a construção de centros de dados no Canadá, embora tenha esclarecido que a fiscalização dessas diretrizes ficará a cargo das esferas provincial e municipal.
Visão de especialistas da Anthropic
De acordo com o Sabah e o Toronto Sun, Jacob Coxon escreveu em sua conta na plataforma X que nem a Anthropic nem a OpenAI estão agindo de forma responsável, descrevendo uma corrida direta para o desenvolvimento de superinteligência autoaprimorável e um jogo com as vidas das pessoas.
Ele afirmou que quem participa da construção de sistemas de IA acredita sinceramente que essa tecnologia pode eliminar a humanidade até o final da década e que esse não é um truque de marketing, acrescentando que muitos profissionais do setor usam linguagem mais moderada em declarações públicas, embora expressem o medo em conversas particulares.
O team lead de segurança da Anthropic, Evan Hubinger, respondeu à publicação de Coxon afirmando que a equipe realmente acredita que a IA pode causar a extinção de todos os humanos e que, em sua opinião pessoal, há uma probabilidade de 10% de que esse cenário se concretize nos próximos dez anos.
O que ainda não foi divulgado
- Data exata em que Jacob Coxon apresentou seu pedido de demissão
- Detalhes das atribuições, do cronograma de implantação e das fontes de financiamento do novo regulador proposto pelo governo canadense
- Conteúdo programático específico dos cursos 'AI essentials', incluindo carga horária e critérios de avaliação
- Qualquer posicionamento oficial das lideranças da Anthropic ou da OpenAI sobre as alegações feitas pelo pesquisador
Esses pontos mostram quais informações ainda precisam ser esclarecidas para que o debate sobre a segurança da IA possa avançar com base em dados concretos.
