David Sacks disse que laboratórios de inteligência artificial precisam desenvolver tecnologia segura sem recurso a medidas antitruste. Enquanto isso, executivos da OpenAI, Anthropic, Google DeepMind e Elon Musk acordaram em reduzir o ritmo de desenvolvimento da IA. O movimento, que inclui o ex-chefe da OpenAI Sam Altman e outros, já foi visualizado mais de 170 milhões de vezes na plataforma X.
Proposta de desaceleração e reações do mercado
Segundo The Verge, nos últimos dias, os CEOs Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) e Elon Musk (SpaceX) chegaram a um acordo informal para desacelerar o avanço de modelos de fronteira. Eles disseram que o objetivo é 'pace the frontier'.
Eles propuseram a criação de auditores independentes, a regulação de laboratórios nacionais e um acordo global de ralentecimento. O ensaio de Amodei, que reúne ideias já defendidas por defensores da segurança da IA, deu início à iniciativa.
Críticos, no entanto, disseram que a iniciativa pode ser um cartel para frear concorrentes, dificultar o crescimento do código aberto e evitar salvaguardas legais mais rigorosas. Alguns até o chamaram de cartel direto. The Verge acrescenta que, embora a proposta possa substituir regulamentação formal, sob a administração Trump, a chance de regras substanciais é baixa.
Visão de David Sacks e preocupações de segurança
Bloomberg Tech informou que David Sacks disse que Anthropic e OpenAI devem reduzir o ritmo de IA apenas se for necessário. Essa posição, presente em suas falas públicas, destaca que a responsabilidade de garantir segurança recai sobre as empresas.
Além disso, Sacks defende que os laboratórios devem buscar segurança tecnológica sem recurso a leis antitruste. Ele argumenta que a solução deve vir da indústria, não de intervenções competitivas. Essa ideia está na manchete que o classificou como um chamado para a indústria tratar a segurança como prioridade intrínseca.
Especialistas entrevistados pela The Verge, como Nick Reese (professor adjunto da Universidade de Nova York e ex-diretor de política de tecnologia emergente do Departamento de Segurança Interna dos EUA), disseram que o setor precisa de novos líderes fora das grandes empresas. Atuais chefes, segundo eles, podem não ser os mais adequados para guiar o debate sobre a direção da IA. Reese acrescentou que não há uma visão clara do que se pretende construir com a tecnologia.
A preocupação com a segurança aumentou após vazamentos de agentes usados em hacks não detectados em laboratórios da Anthropic e OpenAI. Relatos das próprias empresas, aliado à carta de demissão de Jacob Coxon, da Anthropic, que alertou que os construtores acreditam que a tecnologia pode acabar com a humanidade até o final da década e que as empresas não agem com responsabilidade, correndo para uma superinteligência autossuficiente, alimentaram o debate.
Segundo a The Verge, a carta de Coxon foi visualizada mais de 170 milhões de vezes no X e apareceu em jornais e televisões, ampliando o alcance do alerta para fora dos círculos técnicos.
Daniel Kokotajlo, ex-funcionário da OpenAI e atual líder do projeto AI Futures, disse à The Verge que a ideia de desacelerar não vem apenas dos executivos. Pesquisadores e ativistas externos já estavam pedindo cautela há algum tempo. Isso mostra que o chamado por maior prudência tem raízes além das câmaras corporativas.
O que ainda não foi divulgado
O material não revela a data exata do encontro de fim de semana entre os executivos, nem os termos das propostas de auditoria terceirizada ou do acordo global de ralentecimento. Não há também informações oficiais sobre como as empresas pretenderão responder às acusações de comportamento cartelista ou quais medidas concretas de segurança estão sendo tomadas.
