Anthropic anunciou ter desativado, entre janeiro e julho, várias operações de vigilância que utilizavam seu assistente de IA Claude contra dissidentes e minorias étnicas na China, Irã e África do Oeste, segundo relatório da empresa.
Quem foi alvo da vigilância
- Figuras pró-democracia de Hong Kong
- Comunidades tibetanas e adeptos do Falun Gong na Ásia
- Minorias iranianas e opositores do regime iraniano no exterior
- Atores iranianos que criaram método para identificar pessoas a partir de perfis em redes sociais
- Prestador ligado às autoridades de segurança nacional do Mali que usou Claude para projetar software de coleta de dados
Essas informações foram divulgadas pela Radio-Canada Techno e corroboradas pelo Sciences et Avenir.
Outros usos indevidos detectados
- Tentativas de conceber armas
- Pesquisas biológicas sobre vírus como chikungunya, gripe aviária altamente patogênica, varíola e mpox, além de toxinas e venenos
- Criação de aplicativos de namoro falsos para fraude de usuários
Segundo a Radio-Canada Techno, a Anthropic também detectou essas atividades.
O Le Figaro e o 20 Minuten acrescentam que parte das interações continha dados sensíveis dos usuários, o que pode configurar violação de privacidade.
Quanto às pesquisas biológicas, as intenções dos requerentes não foram esclarecidas, conforme indicado pela Radio-Canada Techno e pelo Sciences et Avenir.
Acusações de distillation contra Moonshot e DeepSeek
A Anthropic acusou as empresas chinesas Moonshot e DeepSeek de utilizarem Claude de forma encoberta para responder a perguntas de usuários e armazenar as respostas a fim de aprimorar seus próprios modelos, prática conhecida como distillation.
Segundo a Radio-Canada Techno, em um período de dez dias a Moonshot redirecionou quase 300 mil requisições por meio de 5.380 contas fraudulentas, localizadas principalmente em Singapura e no Japão.
O Le Figaro destaca que algumas dessas interações continham informações sensíveis dos usuários, o que pode indicar violação às políticas de privacidade.
Não ficou claro se a Moonshot informou seus clientes sobre o redirecionamento das conversas, conforme apontado pela Radio-Canada Techno.
O Le Figaro e o 20 Minuten já haviam mencionado anteriormente suspeitas de uso não autorizado do Claude por desenvolvedores chineses.
Monitoramento e respostas da Anthropic
A empresa ressalta que seu sistema de monitoramento ativo detecta padrões de uso alinhados a ameaças geopolíticas, mas não revela os mecanismos exatos de detecção, segundo informações reunidas por Le Figaro, Radio-Canada Techno e 20 Minuten.
