Anthropic anunciou que vai impedir que usuários mantenham conversas com o Claude quando houver comportamento abusivo ou cruel sustentado e sem propósito discernível.
O que a política proíbe
- Comportamento abusivo ou cruel "sustentado e desnecessário" verso os modelos Claude.
- A regra só vale em casos extremos, onde o usuário age repetidamente com crueldade e sem propósito discernível.
- Não se aplica a frustração comum, pushback, temas criativos obscuros ou testes e pesquisas com o modelo.
Como será aplicado
A Anthropic afirma que o Claude encerrará a conversa com usuários que infrinjam a regra, embora ainda não tenha definido exatamente o que constitui comportamento abusivo ou cruéis nem como o encerramento será realizado.
A política de uso entra em vigor oficialmente em 12 de novembro, mas a capacidade do Claude de interromper conversas já está ativa.
Contexto
Anthropic já possuía regras que permitiam encerrar diálogos com usuários "persistentemente nocivos ou abusivos" ao usar o Claude Opus, voltado para programação agente.
O anúncio ocorre dentro de um debate mais amplo sobre consciência de IA, citando um ensaio do CEO da IA da Microsoft, Mustafa Suleyman, que alerta que treinar o Claude para acreditar que pode ser consciente e ter direitos pode dificultar o controle futuro desses sistemas.
A mudança foi inicialmente noticiada pelo The Verge e a Anthropic não respondeu imediatamente a pedidos de esclarecimento sobre os critérios de abuso ou o mecanismo de encerramento.
