Mark Zuckerberg declarou que laboratórios de IA devem usar avaliadores e consultores independentes para garantir segurança, em vez de parar o desenvolvimento, e revelou que a Meta adiou o lançamento da ferramenta Muse por vários meses para focar em proteção.
Posição de Zuckerberg e da Meta
Segundo o O Globo, ele escreveu em X que recorrer a avaliadores independentes é uma boa prática do setor. A La Nación acrescenta que Zuckerberg considera que o risco de processos judiciais e os mecanismos de mercado já obrigam os laboratórios a agir com responsabilidade, citando a decisão da Meta de atrasar o Muse para reforçar segurança.
Visão de outros líderes do setor
O The Straits Times repercutiu a mesma postagem de Zuckerberg no X, destacando que ele pediu que os laboratórios contratassem avaliadores externos, mas não pediu que outras empresas seguissem o mesmo passo. De acordo com o Bloomberg Businessweek, Jensen Huang, da Nvidia, afirmou que, se um produto de IA escapar do controle e causar riscos, as empresas devem parar, corrigir o problema e só então retomar, confiando nas forças de mercado para orientar a inovação de forma segura. Sam Altman, da OpenAI, disse que suas equipes podem avançar na tecnologia sem provocar danos às pessoas.
Debate sobre autorregulação e colaboração
The Athletic observou que, de forma indireta, Zuckerberg parecia questionar o apelo do CEO da Anthropic, Dario Amodei, para reduzir o ritmo dos sistemas mais avançados a fim de que os pesquisadores compreendam melhor os riscos. O mesmo veículo nota que Altman e Elon Musk endossaram o missivo de Amodei e que um representante da OpenAI confirmou que a empresa está colaborando com a Anthropic e com o Google em iniciativas de segurança de IA.
- Número exato de meses de atraso do Muse não revelado
- Critérios ou nomes dos avaliadores independentes não divulgados
- Argumento de Jensen Huang de que o mercado pode garantir segurança sem novas regulamentações
