Anthropic acusa empresas chinesas de inteligência artificial de fraudar o modelo Claude, redirecionando consultas de usuários e copiando suas capacidades, além de relatar uso do modelo por um grupo de hackers ligado à Rússia para atacar alvos na Ucrânia.
Acusações contra laboratórios chineses
Segundo o it‑daily.net, a Anthropic afirma que Moonshot (chatbot Kimi) e DeepSeek simplesmente enviaram as perguntas dos usuários para o Claude, em vez de responder com seus próprios modelos.
Em apenas dez dias, o Kimi consumiu quase 300 000 consultas atendidas pelo Claude, usando uma rede de 5 380 contas falsas.
Ainda segundo a mesma fonte, a DeepSeek repassou informações do entorno do Ministério da Defesa russo, incluindo credenciais válidas de acesso a um banco de dados governamental.
Já o n‑tv relata que, nos últimos oito meses, a Anthropic bloqueou casos de uso indevido do Claude.
Entre eles estão tentativas de sete laboratórios chineses de copiar as capacidades do modelo. Entre esses laboratórios estão Alibaba, Moonshot, DeepSeek e Xiaomi.
Funcionários vinculados à Alibaba teriam realizado esse tipo de ataque, usando os resultados do Claude para aprimorar os próprios modelos Qwen, numa prática conhecida como destilação.
O n‑tv informa ainda que a Anthropic identificou um grupo de hackers cujo padrão de ação corresponde ao da russa Midnight Blizzard, anteriormente ligada pelo governo dos EUA ao serviço de inteligência estrangeira SVR.
Esse grupo teria usado o Claude para conduzir ataques contra objetivos do governo ucraniano, militares e setor diplomático, desenvolvendo um sistema que reescreve automaticamente seu malware sempre que detectado por ferramentas de segurança, permanecendo indetectável.
Além disso, a empresa diz ter encontrado agentes utilizando o Claude para criar softwares de armas convencionais, como rifles, mísseis e drones armados, e também ter rastreado atividades atribuídas ao coletivo de crime cibernético ShinyHunters.
Jacob Klein, responsável pela análise de ameaças na Anthropic, afirmou em entrevista que os modelos melhoraram no último ano, introduzindo novos riscos para tarefas como a otimização de software de drones ou foguetes, que um ano atrás não seriam possíveis com o mesmo nível de desempenho.
