Entre janeiro e julho de 2026, Anthropic disse que interrompeu campanhas de vigilância estatal usando seus modelos Claude na China, Irã e África, além de bloquear esforços para desenvolver armas, conduzir pesquisas biológicas questionáveis e realizar distilação não autorizada de IA por laboratórios chineses.
Campanhas de vigilância estatal interrompidas
The Economic Times afirma que as operações visavam comunidades de diáspora e dissidentes historicamente alvo desses regimes, como figuras pró‑democracia em Hong Kong, comunidades tibetanas e Falun Gong na Ásia e minorias iranianas e opositores do regime iraniano no exterior.
O mesmo veículo cita casos específicos: atores iranianos criaram um método para identificar pessoas por meio de contas de redes sociais; um contratado que trabalhava para autoridades de segurança nacional do Mali utilizou o Claude para projetar o software subjacente que possibilitava a coleta de inteligência.
O relatório da empresa, também mencionado pela Reuters, indica que as atividades foram detectadas e interrompidas entre janeiro e julho de 2026.
Uso indevido para armas e distilação de IA
Além das campanhas de vigilância, a Anthropic relatou ter interrompido tentativas de usar o Claude para projetar armas de fogo, mísseis, drones armados, bombas e outros armamentos, bem como sistemas de apontamento e controle.
Free Malaysia Today informa que laboratórios chineses como Alibaba, Moonshot, DeepSeek e Xiaomi foram acusados de realizar 'distilação ilícita' dos modelos Claude para melhorar seus próprios sistemas, como os Qwen da Alibaba.
A mesma fonte aponta que a Anthropic observou mais de 151 milhões de trocas atribuídas à Alibaba entre maio e julho de 2026, com pico de quase 3 milhões por dia vindos de mais de 3,5 contas descritas como fraudulentas.
Em um intervalo de dez dias, a Moonshot encaminhou quase 300 mil solicitações de clientes à Anthropic por meio de uma rede de 5 380 contas fraudulentas, a maioria localizada em Singapura e Japão.
The Economic Times acrescenta que a empresa bloqueou esforços para conduzir pesquisas biológicas questionáveis e criar golpes de encontros online usando seus modelos.
Ligações com atores russos e outros grupos criminosos
De acordo com o Free Malaysia Today, um grupo de hackers cuja conduta se assemelha ao ator russo Midnight Blizzard utilizou IA em quase todas as fases de operações de phishing, sequestro de Wi‑Fi em hotéis e tomada de contas do WhatsApp contra alvos do governo, militar e setor diplomático ucraniano.
A mesma fonte informa que a Anthropic identificou e interrompeu atividades vinculadas a afiliados do coletivo de crime cibernético ShinyHunters, um dos mais ativos nos últimos meses.
O relatório também menciona que novas categorias de atores maliciosos foram detectados usando o Claude para desenvolver software de armas convencionais e seus sistemas de alvo e controle, na China, Rússia e Iêmen.
