Meta falhou ao bloquear centenas de anúncios de abuso infantil criados com inteligência artificial, incluindo alguns com imagens reais de crianças, conforme apurou a WIRED. Os anúncios foram veiculados no Facebook e no Instagram entre setembro e outubro de 2024, segundo a publicação. Eles usavam ferramentas de IA para gerar ou combinar conteúdo com fotografias autênticas de menores, dificultando a detecção automatizada.
Como os anúncios enganaram a moderação
A WIRED investigou cerca de 150 anúncios que enganaram os filtros da Meta. A combinação de imagens sintéticas e reais fez com que os sistemas de detecção, baseados em aprendizado de máquina, não identificassem os materiais. Alguns usavam deepfakes em vídeos, enquanto outros mesclavam fotos reais a novas gerações. A publicação não revelou como os anúncios foram financiados ou segmentados, mas destacou que permaneceram online por semanas em alguns casos.
Investigação da WIRED
A reportagem da WIRED, publicada em novembro de 2024, foi baseada em documentos internos, testemunhos de ex-funcionários e análise técnica de especialistas em segurança digital. A revista também entrou em contato com a Meta antes do lançamento, mas a empresa não comentou sobre as medidas tomadas após a exposição.
Impacto e preocupações
O caso reacende debates sobre os limites da moderação automatizada e a necessidade de regulamentação mais rígida para conteúdo gerado por IA. Especialistas citados pela WIRED alertam que a facilidade de criar materiais de abuso com IA coloca plataformas em uma posição delicada, exigindo investimentos em tecnologia e colaboração com autoridades.
A ausência de bloqueio evidencia uma brecha significativa nos mecanismos de segurança da Meta, especialmente diante do aumento de conteúdo sintético ilegal.
