A Anthropic anunciou a implementação de marcas d'água invisíveis em conteúdos de texto e imagens produzidos pelo modelo Claude. A medida visa identificar a origem sintética de materiais gerados pela inteligência artificial, embora a decisão tenha encontrado resistência entre usuários.
Objetivo da marcação invisível
A tecnologia insere rastreadores imperceptíveis aos olhos humanos em documentos e arquivos visuais criados pela ferramenta. A função principal é garantir a rastreabilidade do conteúdo, permitindo que a empresa identifique se um arquivo específico foi gerado a partir do modelo de IA. A iniciativa reflete uma tendência crescente entre desenvolvedores de modelos de linguagem para tentar mitigar riscos associados à desinformação e ao uso não detectado de conteúdo sintético.
Recepção do público
Segundo a Forbes, a implementação da funcionalidade gerou descontentamento na internet. O relato indica que parte dos usuários manifestou insatisfação com a mudança, embora detalhes específicos sobre os motivos da resistência ou os critérios técnicos da marcação não tenham sido esmiuçados até o momento.
O que ainda não foi divulgado
- Os detalhes técnicos exatos de como essas marcas resistem a edições, capturas de tela ou compressão de arquivos.
- Se a ferramenta de marcação será obrigatória para todos os usuários ou se haverá opções de desativação para casos de uso específicos.
- Quais ferramentas de detecção externas serão disponibilizadas pela Anthropic para que terceiros possam identificar o conteúdo marcado.
- Se haverá impactos no desempenho da geração de respostas pelo modelo Claude.
