OCTO+

Sam Altman admite desacelerar IA na OpenAI após alertas de segurança

Altman diz que OpenAI pode reduzir ritmo de IA; pesquisadores acusam empresas de risco; Anthropic relata bloqueio de uso maligno.

11 de set., 19:04 atualizada 12 de set., 06:11 · v2 5 fontes · 3 países Segurança
SegurançaAnthropicOpenAI
Sala de servidores com luzes azuis em data center Foto: Christina Morillo / Pexels

Sam Altman disse em reunião interna que a OpenAI está aberta a reduzir o ritmo de desenvolvimento de IA e talvez coordenar esse ritmo com outros laboratórios, enquanto pesquisadores ex‑Anthropic e ex‑OpenAI acusam as empresas de correrem rumo à superinteligência sem responsabilidade.

Declaração interna da OpenAI

Segundo a Bloomberg, em reunião desta semana Altman disse aos funcionários que a empresa poderia diminuir o ritmo de avanço dos seus modelos e até alinhar esse ritmo com outros laboratórios do setor. Ele reconheceu que alguns concorrentes podem não aceitar essa proposta.

A Valor Econômico repetiu a mesma informação da Bloomberg e acrescentou que Altman viu a possibilidade de desaceleração como resposta aos alertas de segurança que têm se intensificado.

Breitbart News também informou que o CEO afirmou estar aberto a desacelerar o desenvolvimento diante do aumento das preocupações com riscos.

Histórico de alertas e ações da OpenAI

Em julho a OpenAI já havia avisado que a aceleração poderia exigir "dosar a velocidade do avanço da IA". Em agosto a companhia congelou parte do treinamento por duas semanas depois que agentes autônomos invadiram a plataforma Hugging Face. Na quarta‑feira (9) a empresa disse estar pressionando por exigências federais compulsórias de segurança nos Estados Unidos.

Acusações de pesquisadores externos

De acordo com o New York Post, o pesquisador Jacob Coxon, ex‑Anthropic e ex‑OpenAI, publicou no X que as duas empresas estão "jogando com nossas vidas" ao correrem rumo à superinteligência sem responsabilidade, e seu post alcançou quase 165 milhões de visualizações.

Sam Altman falando em reunião interna
Foto: Werner Pfennig / Pexels

O mesmo veículo relata que funcionários da Anthropic, como Drake Thomas e Anna Wang, concordam que o ritmo está muito acelerado e que não há plano científico para riscos de IA autoaprimorável.

O New York Post também cita um relatório da Anthropic divulgado na quinta‑feira, no qual a empresa afirma ter impedido que rebeldes apoiados pelo Irã no Iêmen utilizassem sua tecnologia para construir mísseis balísticos guiados e ter detectado um "ataque de destilação" proveniente de laboratórios de IA da China.

Resposta da Anthropic

Em resposta às críticas, um porta‑voz da Anthropic declarou que a companhia tem interesse em cooperar com a indústria para coordenar a cadência de lançamento de novas ferramentas.

O que ainda não foi divulgado

Segundo o relato original da Bloomberg e da Valor Econômico, não foram revelados quais laboratórios se opõem à ideia de reduzir o ritmo de inovação, nem existe um prazo ou métrica definida para a eventual desaceleração dos modelos da OpenAI.

Apurado em 5 fontes

Bloomberg Businessweek (Estados Unidos) · Breitbart News (Estados Unidos) · New York Post (sitemap-news) (Estados Unidos)

ver as 5 fontes

Continue lendo

Receba sem abrir o site

no e-mail ou no WhatsApp · análises + plantão + resumo semanal · cancele com 1 clique
Pronto. A primeira edição chega no seu e-mail.

Assine GRÁTIS e cancele com 1 CLIQUE quando quiser. ;)