A Anthropic anunciou ter desarticulado campanhas de IA orquestradas por agentes russos e chineses que almejavam seus modelos Claude. A Reuters divulgou a notícia, apurando que as operações combinaram espionagem e desinformação com apoio de governos estrangeiros.
De acordo com a agência, a startup de IA identificou e parou as atividades que exploravam falhas nos sistemas de Claude para fins indevidos. As campanhas foram ligadas a atores russos e chineses, mas a Anthropic não divulgou detalhes sobre os métodos ou a extensão das ações.
Detalhes das operações
A Reuters conta que a Anthropic atuou para conter o uso indevido de seus modelos de linguagem. Isso incluiu desde a coleta de dados confidenciais até a criação massiva de conteúdo falso. A empresa não disse quais setores ou organizações foram alvo, mas apontou que as ações envolveram coordenação com autoridades de segurança.
O aviso da Anthropic vem em um momento de crescente medo global sobre o uso de IA por governos para interferir em políticas, roubar Inteligência Artificial e espalhar desinformação. A startup, com sede em São Francisco, é uma das maiores no desenvolvimento de modelos seguros e alinhados a valores humanos.
O que ainda não foi divulgado
- Nomes específicos dos grupos ou agências envolvidos nas campanhas.
- Número exato de modelos Claude afetados ou usuários impactados.
- Medidas técnicas exatas adotadas para neutralizar as operações.
- Se houve vazamento de dados ou danos concretos antes da interrupção.
