Mark Zuckerberg disse que competição e responsabilidade legal dão aos laboratórios de IA motivação suficiente para agir individualmente na segurança dos modelos.
Zuckerberg enfatiza incentivo individual para segurança
Segundo a MyJoyOnline, ele afirmou que cada laboratório tem a responsabilidade e o incentivo de avançar no ritmo necessário para treinar seus modelos com segurança.
Ele acrescentou que quem não focar em alinhamento provavelmente ficará para trás e que a responsabilidade significativa por danos estimula as empresas a evitar prejuízos.
Zuckerberg também disse que cada laboratório tem a capacidade de tomar suas próprias medidas para garantir a segurança, sem precisar de regras coletivas.
Como exemplo, citou que a Meta adiantou o lançamento de seu agente Muse deste ano para reforçar a segurança, fazendo isso como parte de seu trabalho cotidiano.
Diferença de visões entre executivos e autoridades dos EUA
Conforme o The Business Standard, as declarações de Zuckerberg surgiram três dias depois do pedido do CEO da Anthropic, Dario Amodei, para que as companhias reduzam o ritmo de aprimoramento das capacidades dos modelos.
Sam Altman, da OpenAI, e Elon Musk, da xAI, apoiaram publicamente o chamado de Amodei poucas horas após o anúncio.
O presidente Donald Trump, entretanto, minimizou os riscos da IA, dizendo que os Estados Unidos já possuem salvaguardas e que a China se beneficiaria caso haja dúvidas sobre o desenvolvimento da tecnologia.
Ele acrescentou que a opinião de que regulamentações prejudicariam a capacidade das empresas americanas de competir com as chinesas é compartilhada por executivos de tecnologia, incluindo o CEO da Nvidia, Jensen Huang.
O presidente da Comissão Federal de Comércio, Andrew Ferguson, alertou que se deve estar “desconfiado” das empresas de IA que buscam isenções antimonopólio enquanto defendem novas regras.
Medidas da Meta e contexto jurídico
- Meta atrasou o lançamento do agente Muse deste ano para reforçar a segurança, fazendo isso como parte de seu trabalho cotidiano.
- A companhia destinou a “maioria significativa” de sua capacidade de computação a produtos que atendam às necessidades imediatas dos usuários, em vez de buscar sistemas de autoaperfeiçoamento.
- Os laboratórios de Superinteligência da Meta já contratam avaliadores independentes em várias áreas, considerando essa prática um padrão do setor que outros laboratórios podem adotar.
- Meta concordou em pagar até 18 bilhões de dólares para resolver processos judiciais nos EUA que acusam a empresa de projetar o Facebook e o Instagram para criar vício em crianças, sem admitir culpa.
