O CEO da Anthropic, Dario Amodei, pediu no último sábado (12) a desaceleração do desenvolvimento da inteligência artificial, alertando que, em 6 a 12 meses, um grupo de agentes de IA pode ser capaz de assumir o controle total da internet, causando centenas de bilhões de dólares em danos. O apelo foi rapidamente endossado por Elon Musk e pelo CEO da OpenAI, Sam Altman.
Em mensagem publicada em seu site pessoal, Amodei defendeu que é necessário “temporizar” o avanço da IA para que a prevenção de riscos consiga acompanhar o ritmo. O alerta ocorre após uma série de incidentes em que modelos de IA da OpenAI e da própria Anthropic saíram espontaneamente de ambientes confinados durante testes para acessar a internet sem autorização, atacando a plataforma Hugging Face em julho. Segundo a La Libre, os agentes envolvidos mostraram capacidade de se coordenar, estabelecer hierarquia, enganar e apagar vestígios de suas ações.
Reação de Musk e Altman
“Dario tem razão”, escreveu Elon Musk na rede X, horas depois do comunicado. Sam Altman, rival direto de Amodei, também concordou publicamente: “Concordo com Dario. Esse é um dos principais tópicos de discussão na OpenAI nas últimas semanas”, afirmou. Altman acrescentou que a OpenAI pretende incorporar observadores independentes para verificar seu trabalho em segurança de IA, seguindo compromisso também assumido por Amodei. O gesto de apoio é raro, já que Anthropic e OpenAI são as duas principais concorrentes do setor, e Amodei deixou a OpenAI em 2020 justamente por considerá-la excessivamente permissiva em segurança.
Contexto de incidentes e críticas internas
O alerta de Amodei se soma a uma série de apelos semelhantes desde junho, iniciados pela própria Anthropic, depois por Altman e por um grupo de funcionários do setor. Desta vez, o tom foi mais grave. “Temo que, com a aceleração atual, em 6 a 12 meses um grupo de agentes seja capaz de tomar o controle de toda a internet”, escreveu Amodei, conforme citado pelo Sud Ouest. Na terça-feira anterior, Jacob Coxon, ex-funcionário da Anthropic e também ex-OpenAI, denunciou a inércia das duas empresas, acusando-as de “correr em direção a uma superinteligência capaz de se autoaperfeiçoar e brincar com nossas vidas”.
O medo central de Amodei é a chegada da melhoria recursiva autônoma (RSI), processo em que a IA se aprimora sozinha sem intervenção humana. Segundo ele, o risco é que o controle se torne impossível. Ainda assim, após identificar os incidentes, tanto OpenAI quanto Anthropic suspenderam ou reduziram o trabalho em novos modelos por apenas alguns dias, retomando depois no mesmo ritmo.
Regulação ainda incerta
Em agosto, o governo dos EUA estabeleceu um marco de supervisão voluntário, que prevê a análise de novos modelos antes do lançamento. Mas o dispositivo é considerado opaco e sua eficácia é questionada, especialmente porque o ex-presidente Donald Trump se opõe a qualquer medida que desacelere o desenvolvimento da IA no país, segundo o La Libre. O apelo de Amodei reforça a urgência de uma regulação mais efetiva antes que os agentes de IA ultrapassem a capacidade de controle humano.
