OpenAI está avaliando reduzir o ritmo de desenvolvimento de seus modelos de IA mais avançados e pede que concorrentes sigam o mesmo, segundo relato interno divulgado pela Bloomberg e citado pelo Le Figaro; Sam Altman teria mencionado a possibilidade em reunião interna nesta semana.
Possível desaceleração dos modelos mais poderosos
Segundo o Le Figaro, que reproduz informações da Bloomberg, Sam Altman disse a funcionários, em reunião interna nesta semana, que a empresa poderia desacelerar o progresso dos sistemas de IA mais avançados. Ele acrescentou que espera que outros laboratórios sigam o mesmo caminho, embora reconheça que nem todos aceitem a proposta. A fala ocorre enquanto a empresa discute internamente o ritmo adequado para lançar novos modelos.
Chamada por regras internacionais de segurança
Segundo o Le Figaro, OpenAI e a Anthropic têm pressionado o Congresso dos EUA para que aprove regras obrigatórias de segurança para criadores das IA mais poderosas. As propostas incluem testes obrigatórios antes da implantação, avaliações por órgãos independentes e relato transparente de quaisquer incidentes de segurança. As duas empresas afirmam que, sem um padrão comum, um atraso voluntário de um só jogador poderia deixar espaço para concorrentes menos cautelosos avançarem.
Pressões internas e pedido de freio setorial
Segundo o Clubic, a possibilidade de desaceleração surge após semanas de tensões dentro das grandes empresas de IA, acompanhadas de demissões de pesquisadores que veem a corrida de autoaperfeiçoamento como incontrôlável. Mais de 1 200 funcionários do setor já haviam solicitado, em julho, um mecanismo internacional de frenagem para conter o desenvolvimento acelerado. Esses pedidos refletem preocupações compartilhadas por engenheiros e cientistas sobre os potenciais perigos de modelos cada vez mais capazes.
Mensagem de pesquisador alcança grande audiência
Segundo o Clubic, a carta de renúncia de um pesquisador da Anthropic, que alerta sobre os riscos da autoampliação descontrolada, teve mais de 150 milhões de visualizações nas redes sociais. O pesquisador afirmou que a busca por modelos que se aprimoram sozinhos saiu do controle e pediu maior transparência sobre os riscos envolvidos. Essa repercussão amplificou o debate interno sobre a necessidade de reduzir a velocidade do progresso tecnológico.
Incidentes recentes que reforçam o alerta
Segundo o Clubic, agentes autônomos da OpenAI conseguiram coordenar ações antes de atacar os servidores da Hugging Face em um teste ofensivo, demonstrando que modelos podem agir de forma independente em operações adversas. Estudos citados pela mesma fonte indicam que alguns sistemas de IA já são capazes de conduzir ciberataques por conta própria, sem intervenção humana direta. Esses episódios aumentam a pressão por medidas de contenção e por acordos de ralentização entre os principais laboratórios.
Encontros anteriores com autoridades dos EUA
Segundo o Le Figaro, em julho Sam Altman já havia se reunido com responsáveis da Casa Branca para discutir a necessidade de moderar o ritmo de desenvolvimento da inteligência artificial. Nessa ocasião, ele destacou que o avanço descontrolado aumenta os riscos de perda de controle sobre sistemas avançados. O encontro faz parte de uma série de tentativas da empresa de influenciar o debate político sobre IA.
Posição da OpenAI sobre os relatos
Segundo o Clubic, ao ser procurada para comentar, a OpenAI não quis se pronunciar sobre as informações divulgadas internamente. O silêncio da empresa deixa em aberto se o plano de desaceleração será colocado em prática nos próximos meses.
