Segundo o BFMTV e o Le Monde Pixels, o presidente da Meta, Mark Zuckerberg, rejeitou pedidos para retardar o desenvolvimento de inteligência artificial, dizendo que o mercado e o risco de processos judiciais são os melhores freios para garantir que os agentes atendam às expectativas dos usuários.
Alignamento como incentivo natural
Zuckerberg postou na X: as pessoas simplesmente não vão usar agentes que não fazem o que elas pedem.
Isso cria um forte estímulo natural para que os laboratórios ajustem seus modelos aos interesses humanos.
Ele avisou que qualquer equipe que ignore o alinhamento ficará para trás na corrida tecnológica.
Freios de mercado e responsabilidade jurídica
Segundo o BFMTV, ele vê os mecanismos de mercado e o risco de processos judiciais como as melhores salvaguardas contra os riscos da IA.
Como prova, citou a decisão da Meta de adiar o lançamento do sistema Muse AI, que oferece agentes personalizados, para reforçar os procedimentos de segurança.
Chamada por avaliações independentes
Zuckerberg defendeu a realização de avaliações independentes dos sistemas de IA.
Ele observou que a divisão Meta Superintelligence Labs já recorre a especialistas externos.
Propôs a criação de um ecossistema mais amplo e diversificado que permita tais verificações fora dos próprios laboratórios.
Principais pontos da declaração
- As pessoas rejeitam agentes que não atendem às suas solicitações.
- O mercado e o risco de processos judiciais funcionam como freios naturais ao desenvolvimento de IA.
- Laboratórios têm incentivo natural para alinhar seus modelos às expectativas dos usuários.
- A Meta adiou o lançamento do Muse AI para reforçar segurança e proteção.
- É necessária a criação de um ecossistema mais amplo para avaliações independentes de IA.
Contexto das preocupações recentes
O aumento do debate sobre a velocidade do desenvolvimento de IA vem de vários incidentes de segurança recentes e da tendência dos modelos de aprimorar‑se por conta própria, sem intervenção humana.
Enquanto especialistas como Dario Amodei, da Anthropic, pedem um atraso no progresso, Zuckerberg afirma que a pressão do mercado e o risco de ações judiciais já impõem responsabilidade às empresas do setor.
