OpenAI anunciou que vai adicionar uma marca d’água invisível, chamada textGrain, nos textos gerados pelo ChatGPT e pelo Codex para usuários da União Europeia, a fim de cumprir a lei de IA do bloco.
Como o textGrain funciona
Segundo o IT之家, o textGrain insere um sinal estatístico invisível durante o processo de escolha de palavras pelo modelo, permitindo que um detector identifique a presença da marca.
O Hipertextual explica que a técnica segue o mesmo princípio das listas verde e vermelha da Anthropic: o modelo aumenta ligeiramente a probabilidade de selecionar palavras do primeiro grupo, tornando a marca imperceptível ao olhar humano.
O Tecnoblog acrescenta que o sinal não adiciona caracteres visíveis ou espaços, sendo apenas um ajuste estatístico que não prejudica a qualidade do texto gerado.
Limitações e acesso ao detector
Conforme o Hipertextual, o detector de textGrain não será oferecido ao público em geral; apenas pesquisadores e organizações especializadas poderão solicitar acesso, inicialmente concedido caso a caso.
O IT之家 informa que os clientes da API podem ativar a marca de forma opcional em modelos selecionados, enquanto a OpenAI trabalha com parceiros de nuvem para disponibilizar o recurso em serviços externos.
Segundo o Hipertextual, o detector encontrou a marca em cerca de 80 por cento dos textos de 200 tokens e em torno de 95 por cento dos de 400 tokens em conteúdos de psicologia; em textos de matemática a taxa cai significativamente.
Ele ainda destaca que edições reduzem bastante a detecção: trocar 10 por cento das palavras por sinônimos fez a taxa cair de 92 por cento para 66 por cento, e alterar 25 por cento das palavras reduziu‑a para 17 por cento.
O Tecnoblog alerta que a marca pode ser enfraquecida por edições e que a detecção é menos confiável em textos muito curtos, além de não identificar o usuário nem validar a veracidade do conteúdo.
O que ainda não foi divulgado
Nenhuma das fontes divulgou a data exata de início da implantação, mencionando apenas nas próximas semanas para a União Europeia.
Também não ficou claro se a marca d’água será eventualmente adotada como padrão global ou se permanecerá restrita ao território europeu.
