A Anthropic anunciou a implementação de marca d'água invisível nos textos gerados por seu modelo Claude, medida adotada para cumprir a Lei de IA da União Europeia e reforçar a transparência exigida pelo regulador europeu para conteúdos sintéticos. A identificação funciona sem alterar a qualidade do conteúdo ou adicionar caracteres visíveis, pois se baseia em padrões matemáticos na escolha de palavras.
Funcionamento da marca d'água no Claude
- O sistema identifica conteúdo artificialmente gerado por meio de um padrão invisível inserido na origem do texto, diferentemente de softwares de detecção de IA que analisam sinais de linguagem ou estruturas de frases recorrentes.
- A tecnologia, chamada SynthID-Text, foi desenvolvida pelo Google DeepMind em 2024 e funciona quando o modelo escolhe entre sinônimos equivalentes, como cinzento ou nublado, deixando uma assinatura que pode ser verificada com a chave correta.
- A marca não causa impacto prático na qualidade ou no conteúdo dos resultados, não exige tokens adicionais e a diferença entre um texto marcado e um não marcado não é percebida pelos leitores.
- A marcação também se aplica a traduções, já que, nesse caso, cada palavra é escolhida pelo Claude.
Outras empresas e o Código de Prática da UE
- OpenAI, Google, Meta e Microsoft assinaram o mesmo Código de Prática que a Anthropic e devem implementar suas próprias marcas d'água nos modelos respectivos.
- A medida atende a uma exigência da legislação europeia que obriga qualquer conteúdo criado por IA a ser identificável como artificialmente gerado.
Detecção, limitações e uso em código
- Em breve, a Anthropic disponibilizará uma API pública para permitir a detecção da marca d'água em textos do Claude.
- Edições leves de texto não removem completamente a marca, mas uma reescrita total, na qual todas as palavras sejam substituídas, a elimina por completo.
- Quando o Claude é usado apenas para revisar um texto escrito por um humano, a presença da marca será mínima ou nula, pois a maior parte das palavras continua sendo do autor original.
- No caso de programação, o rastreio tem impacto limitado, ficando restrito a trechos arbitrários, como comentários inseridos no código, sem afetar o funcionamento do programa.
