Segundo o The Times of India, Dario Amodei, CEO da Anthropic, respondeu à pergunta se a IA poderia matar todos os humanos em entrevista publicada. Segundo o TechCrunch, o pesquisador Jacob Coxon anunciou sua demissão da Anthropic, alertando que as maiores companhias de IA estão "apostando com nossas vidas". Ainda segundo o TechCrunch, o líder de alinhamento da empresa escreveu em rede social que a equipe acredita sinceramente que a IA poderia eliminar a humanidade, estimando pessoalmente a chance em mais de 10% nos próximos dez anos, e compartilhou imediatamente a postagem de Coxon na plataforma X. Alguns observadores apontaram que o ponto de exclamação da publicação parecia mal posicionado, gerando debate sobre o tom do aviso.
Demissão de pesquisador e alerta interno
Segundo o TechCrunch, Jacob Coxon afirmou ter se demitido da Anthropic porque acreditava que as principais empresas de IA estavam "apostando com nossas vidas". Ele acrescentou que essa preocupação nasceu após notar o aumento rápido das capacidades dos modelos mais recentes, citando o lançamento do modelo Astra pela Anthropic e pela OpenAI poucas semanas antes.
Declaração do time de alinhamento
Segundo o TechCrunch, o responsável pelo alinhamento da Anthropic publicou em rede social que a empresa "realmente acredita sinceramente que a IA poderia matar todos os humanos", acrescentando que ele pessoalmente estima a probabilidade em mais de 10% nos próximos dez anos. Ele também compartilhou imediatamente a postagem de Coxon na rede social X. Alguns observadores comentaram que o ponto de exclamação da mensagem parecia mal posicionado, o que gerou debate sobre o tom do alerta.
Reações no podcast Equity
No episódio do podcast Equity do TechCrunch, os apresentadores Anthony Ha, Kirsten Korosec e Sean O’Kane debateram os recentes avisos apocalípticos. Ha disse que o ponto de exclamação estava justificado se se acredita realmente no risco de extinção, mas questionou o uso do pronome "nós" na declaração. Korosec sugeriu que o alerta poderia ser uma forma de mostrar o avanço dos modelos das empresas, especialmente diante de preparativos para ofertas públicas. O’Kane observou que o episódio foi gravado antes do incidente de segurança no Hugging Face envolvendo um modelo interno da OpenAI e antes do lançamento de modelos recentes da Anthropic e da OpenAI (como o Astra), vendo o momento como propício para um "pó de pólvora" nas discussões.
Implicações para o futuro da Anthropic
Segundo o TechCrunch, Sean O’Kane levantou a questão de como tais avisos poderiam ser refletidos no documento S‑1 que a Anthropic pretende apresentar para sua eventual IPO, imaginando que advogados júnior talvez precisem reescrever trechos para afirmar que há mais de 10% de chance de desenvolver uma tecnologia capaz de eliminar a humanidade, algo que seria considerado materialmente ruim para o negócio. O mesmo veículo acrescenta que a conversa ocorreu antes de Dario Amodei publicar seu plano para um desenvolvimento de IA mais cauteloso.
Contexto dos avisos recentes
Segundo o TechCrunch, a sequência de eventos começou com a demissão de Jacob Coxon, seguida rapidamente pela publicação do líder de alinhamento, e ocorreu logo após o incidente de segurança no Hugging Face envolvendo um modelo interno da OpenAI e após o lançamento de modelos mais capazes pela Anthropic e pela OpenAI, incluindo o modelo Astra. Essa combinação de fatores fez com que os alertas se espalhassem rapidamente nas redes sociais, gerando debate sobre os riscos existenciais da IA.
