Os CEOs da Anthropic, Dario Amodei, e da OpenAI, Sam Altman, defendem publicamente a desaceleração do desenvolvimento de modelos de IA de fronteira. Elon Musk, por sua vez, apoia a posição. A convergência veio após denúncias de Jacob Coxon, ex-pesquisador das duas empresas, e inclui a abertura de sistemas para avaliação externa, de acordo com o Noticias Argentinas.
A proposta de Dario Amodei
Amodei publicou um ensaio chamado 'We Must Pace the Frontier'. No texto, ele argumenta que a indústria precisa devagar a corrida – assim, os mecanismos de segurança podem seguir com os aumentos de capacidade. A Anthropic deu um passo concreto: agora, avaliadores externos terão acesso permanente aos sistemas, igual aos funcionários. Eles vão verificar medidas de segurança, reportar incidentes e avaliar se os modelos estão alinhados durante o treinamento.
O respaldo de Altman e Musk
Sam Altman disse estar de acordo com a necessidade de suavizar o avanço. Ele disse que o tema esteve presente em discussões internas da OpenAI nas últimas semanas. A OpenAI, então, seguirá o mesmo caminho: avaliadores independentes terão acesso igual aos empregados. Elon Musk, fundador da xAI, escreveu 'Dario tiene razón' – apoia公开 a visão de Amodei.
Contexto da denúncia
O debate ganhou força com a saída de Jacob Coxon. Ele trabalhou na OpenAI e na Anthropic e deixou com críticas duras à velocidade do desenvolvimento e à falta de supervisão externa em um setor controlado por poucas empresas privadas. O caso mostra uma paradoja da corrida de IA: as empresas que competem por modelos cada vez mais fortes começam a reconhecer que a própria competição é um grande risco.
O que ainda não foi divulgado
O Noticias Argentinas não contou o que tem no plano de três partes de Amodei nem os prazos para as novas políticas de acesso. Não foi dito não quais são os critérios de seleção dos avaliadores independentes ou como a independência das avaliações será garantida.
