Anthropic começa a aplicar watermarks no texto gerado por Claude para cumprir a Lei IA da UE, segundo a TechCrunch. A técnica usa o SynthID-Text do Google DeepMind e cria patterns invisívele ao leitor, detectáveis apenas com a chave de decodificação, explica o Search Engine Journal.
Como o watermark funciona no código do SynthID-Text
O SynthID-Text, criado pelo Google DeepMind, aplica a marca d'água dentro da aleatoriedade da geração de texto. Sempre que o modelo pica a próxima palavra, a randomização é governada pela chave da marca d'água combinada com o contexto anterior. Isso gera um pattern que o humano não vê, mas que pode ser verificado por quem tem a chave. Diferente de ferramentas como o Pangram, que procuram 'tells' na escrita pra identificar AI, essa técnica atua direto na fonte do randomness.
Edições leves não tiram o watermark, mas reescrita total sim
A Anthropic reconhece: editing bem minimalista provavelmente não remove a marca d'água, mas uma reescrita total trocando todas as palavras elimina o padrão. Em código, o watermark tem efeito quase zero, já que o modelo precisa gerar algo funcional e não tem tanta liberdade pa escolher entre opções válidas. Nas partes com choices arbitrárias, tipo comentários, o watermark pode ser aplicado, mas não interfere no código final. Outras empresas que assinaram o Code of Practice também vão implementar os próprios watermarks.
Diferente foco entre TechCrunch e Search Engine Journal
A TechCrunch vai de camba com o cenário regulatório da UE e as reações de usuários no Reddit e no X, alguns reclamando q nem sabia q tava usando AI. Já o Search Engine Journal aprofunda a arquitetura técnica do SynthID-Text e compara com o MirrorMark. A página de transparência da Anthropic atualizada em 23 de julho mostra uma parceria com academia, detalhe novo.
