OpenAI e Meta alertam judiciário EUA sobre deepfake. Segundo o Centro Federal do Judiciário, de 931 juízes pesquisados em março, apenas 15 relataram ter enfrentado um caso de deepfake em tribunal.
Alertas das empresas
Segundo a Forbes Brasil, em reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, realizada em Boston na quinta-feira (15), representantes da OpenAI e da Meta alertaram que os deepfakes gerados por inteligência artificial estão se tornando tão sofisticados que será cada vez mais difícil determinar a autenticidade de provas de áudio e vídeo em julgamentos.
Shira Anderson, consultora de políticas da OpenAI, afirmou que as imagens geradas por IA estão ficando cada vez melhores e que não acredita que exista, no futuro, uma maneira científica confiável de detectar-las. Devin Norder, diretor de gestão de produtos da Meta, declarou que mídias produzidas pelos modelos mais recentes são indistinguíveis pelos seres humanos das mídias autênticas ou geradas por IA, e que o custo e o tempo para criar tais conteúdos são realmente insignificantes.
Desafios de autenticação
Os especialistas lembraram que, desde 2023, o painel tem enfrentado dificuldades para lidar com questões de autenticação relacionadas a deepfakes e garantir que provas reconhecidamente geradas por IA atendam aos mesmos padrões de confiabilidade das testemunhas especialistas humanas.
Eles destacaram que não há um meio universal de detectar com confiabilidade todas as marcas d água, já que cada empresa possui seu próprio sistema, e que novas leis na Califórnia e na União Europeia já exigem a aplicação dessas marcas para tentar identificar deepfakes.
O que ainda não foi divulgado
Não foram divulgados o mês e o ano exatos da reunião em Boston, nem quais ferramentas específicas de verificação a OpenAI e a Meta estão testando ou adotando atualmente.
Também não ficou claro se haverá proposta de norma federal nos EUA para padronizar a detecção de deepfakes em contexto judicial, ou qual será o prazo para eventuais implementações.
