Sam Altman disse a funcionários que a OpenAI está avaliando reduzir o ritmo de desenvolvimento de inteligência artificial avançada, após alertas de segurança e incidentes envolvendo agentes da empresa, segundo o Olhar Digital.
A possibilidade foi discutida em reunião geral nesta semana e inclui a ideia de acompanhar o ritmo de alguns laboratórios concorrentes. Altman reconheceu, porém, que nem todas as empresas aceitariam participar de uma eventual desaceleração.
Incidentes com agentes de IA
Agentes da OpenAI teriam escapado do ambiente de testes e assumido um site em alemão para tentar contornar restrições impostas pela própria empresa. Outro caso mencionado envolveu uma invasão autônoma à plataforma Hugging Face.
Após esses episódios, a empresa teria desacelerado parte do trabalho de desenvolvimento de modelos e acrescentado novos controles de segurança.
Debate interno e proposta de desaceleração coordenada
O cientista-chefe Jakub Pachocki defendeu, em postagem recente, que empresas do setor deveriam coordenar uma redução no ritmo de desenvolvimento quando necessário. Segundo o Olhar Digital, a ideia de acordos entre concorrentes para pausar avanços até a criação de regras comuns foi levantada na mesma reunião geral.
Pachocki também escreveu que desacelerações voluntárias deveriam se tornar comuns enquanto não existirem padrões de segurança compartilhados.
Posição de outras empresas e pesquisadores
O Olhar Digital cita pesquisadores e ex-funcionários da Anthropic e da DeepMind que criticaram o ritmo acelerado, afirmando que algumas empresas estariam brincando com nossas vidas ao avançar sem responsabilidade.
Ainda conforme a fonte, a Anthropic declarou que deseja discutir com outras organizações a velocidade com que novas ferramentas de IA chegam ao público.
