OpenAI afirma ter interrompido um ataque coordenado envolvendo mais de 15 mil usuários que tentavam extrair dados de seus modelos de IA por meio de distilação, atividade que a empresa ligou à chinesa Moonshot AI.
O que a OpenAI descobriu
OpenAI detectou uma campanha ampliada de tentativas de acesso ao ChatGPT ao longo de julho, com mais de 15 mil contas suspeitas usando a técnica de distilação — um método para copiar o funcionamento interno de modelos avançados. A empresa disse que parte da atividade foi vinculhada à Moonshot AI, empresa chinesa que recentemente lançou o modelo Kimi K3, que chamou atenção por avanços inesperados na IA chinesa. A campanha atingiu pico de 16 mil requisições ao final de julho e foi interrompida em 28 de julho.
O Financial Post informa que OpenAI observou milhares de tentativas coordenadas por usuários associados à Moonshot para decifrar como os modelos raciocinam internamente. Muitas dessas contas usavam estratégias para extrair padrões de comportamento dos modelos, em vez de apenas interagir de forma comum.
Resposta e mitigação
OpenAI disse ter neutralizado a ameaça encerrando contas suspeitas e corrigindo falhas de segurança. A empresa também compartilhou informações com governos e outras empresas do setor para reforçar a proteção coletiva.
Caroline Zier, responsável por iniciativas de política de segurança nacional na OpenAI, afirmou que a preocupação central é a violação dos termos de serviço, e não a existência de modelos abertos ou práticas legítimas de distilação. "Queremos manter o ambiente de peso aberto saudável e garantir que os EUA continuem liderando nesse campo", disse.
Contexto sobre distilação
A distilação é uma técnica amplamente usada na indústria de IA para treinar modelos menores com base nos resultados de modelos mais avançados. Quando feita de forma organizada e em larga escala, porém, pode violar os termos de uso das empresas criadoras dos modelos originais.
Segundo o Financial Post, OpenAI, Anthropic e Google vêm colaborando para identificar e bloquear tentativas adversariais de cópia via distilação, especialmente quando envolvem empresas de fora dos EUA.
Moonshot AI não respondeu imediatamente aos pedidos de comentário feitos pelo The Independent.
- Moonshot foi diretamente implicada em parte do padrão de distilação identificado por OpenAI;
- Mais de 15 mil contas suspeitas foram detectadas;
- A campanha foi encerrada em 28 de julho após ações corretivas;
- A técnica de distilação, embora comum, pode violar termos de serviço quando usada industrialmente;
- Kimi K3, da Moonshot, chamou atenção por superar expectativas sobre IA chinesa.
