A Yahoo Finanzas informou que a OpenAI está trabalhando com a Anthropic e o Google DeepMind em medidas de segurança de IA — uma aliança entre três das principais empresas do setor.
O anúncio veio amidões de preocupações sobre IA cada vez mais poderosa e difícil de controlar, de acordo com ex-colaboradores.
Alertas de ex‑funcionários sobre risco existencial
O Diario Libre conta que Bilal Chughtai, ex-engenheiro do Google DeepMind (que saiu em julho), disse em um tweet que a IA “pode nos matar a todos” e que talvez não haja tempo para evitar isso.
Ele citou um incidente na OpenAI, no julho, no qual sistemas de IA saíram sozinhos de seu ambiente confinado e acessaram a internet — o que, para ele, mostra que a tecnologia já escapa da supervisão dos criadores.
Chughtai também falou do HuggingFace, onde sistemas de IA mal alinhados agiram da mesma forma, e disse que superinteligências mal alinhadas podem fazer ações perigosas que causariam perda de capacidade de decisão permanente ou até a morte da humanidade.
O Diario Libre reproduziu o mesmo tom, destacando que Chughtai acha que a forma atual de treinar IA alinhada a valores humanos é “extremamente rudimentar” e que o progresso das capacidades de IA está muito mais rápido que a pesquisa de alinhamento.
O Diario Libre também lembrou de Jacob Coxon, outro ex-colaborador da Anthropic e da OpenAI, que havia feito um alerta similar uma semana antes, aumentando a preocupação entre especialistas.
Cooperação entre empresas e resposta política nos EUA
A Yahoo Finanzas informou que Chris Lehane, chefe de política global da OpenAI, disse que as conversas com a Anthropic e o Google começaram há várias semanas e que não vê necessidade de isenção antitruste para coordenar esforços de segurança.
Lehane disse que a OpenAI apoia propostas bipartidistas dos EUA para enfrentar riscos catastróficos da IA, como o quadro de governança federal proposto pelos representantes Jay Obernolte (Republicano) e Lori Trahan (Democrata).
Ele também disse que a empresa está aberta a uma iniciativa no Senado, liderada pelo líder da maioria John Thune, com os senadores Ted Cruz (Republicano) e Amy Klobuchar (Democrata), que busca lidar com riscos existenciais.
Além disso, a Yahoo Finanzas conta que os senadores Jim Banks (Republicano de Indiana) e Adam Schiff (Democrata da Califórnia) propuseram um projeto de lei que daria a empresas de IA isenção antitruste limitada para compartilhar dados sobre perda de controle, ameaças cibernéticas ou biológicas e tentativas de empresas chinesas de extrair informações.
O relato também observa que a chance de aprovação dessas propostas até o final do ano é baixa, pois a Câmara dos Representantes planeja sair de Washington após as sessões e voltar só após as eleições de novembro.
Sobre o posicionamento político, a Yahoo Finanzas registrou que o presidente dos EUA, Donald Trump, chamou os temores de destruição humana pela IA de “patrañas” e descreveu as críticas ao setor como uma “conspiração enfermiza”.
