Mark Zuckerberg disse que laboratórios de inteligência artificial precisam ter avaliadores independentes para garantir a segurança dos modelos, ao invés de parar o desenvolvimento do setor.
Declarações do CEO da Meta
De acordo com o The Straits Times, Mark Zuckerberg escreveu em uma postagem no X que os laboratórios de IA precisam de avaliadores e consultores independentes para assegurar a segurança dos modelos. Ele disse que a Meta adia internamente o lançamento da ferramenta Muse por vários meses, focando em segurança, sem pedir que outras empresas fizessem o mesmo.
Visão de outros líderes do setor
De acordo com o Bloomberg Businessweek, executivos como Jensen Huang, da Nvidia, e Sam Altman, da OpenAI, disseram que a segurança é um desafio de engenharia e que o desenvolvimento pode seguir rápido sem novas regulamentações. Huang disse que se um produto ficar fora de controle e causar riscos, as empresas devem parar, consertar e só depois voltar, contando com as forças do mercado para guiar a inovação de forma segura.
O mesmo artigo do Bloomberg diz que Altman está confiante de que suas equipes podem avançar na tecnologia sem causar danos significativos às pessoas.
Contraste com o posicionamento da Anthropic
O The Athletic observa que, de forma indireta, Zuckerberg parecia questionar a chamada feita pelo CEO da Anthropic, Dario Amodei, para reduzir o ritmo de desenvolvimento dos sistemas mais avançados, para que os pesquisadores entendam melhor os riscos. De acordo com o The Straits Times, o CEO da OpenAI, Sam Altman, e o executivo da SpaceXAI, Elon Musk, endossaram o missivo de Amodei, e um representante da OpenAI disse que a empresa está colaborando com a Anthropic e com o Google em iniciativas de segurança de IA.
O que ainda não foi divulgado
- O número exato de meses que a Meta atrasou o lançamento da ferramenta Muse.
- Quais são os critérios ou os nomes dos avaliadores independentes que a empresa pretende utilizar.
- Detalhes sobre como as forças de mercado seriam capazes, segundo Huang, de garantir a segurança sem novas regras.
