Segundo o Tom's Hardware, a Anthropic informou que seus revisores identificaram uma ameaça feita por uma mulher da Flórida usando o modelo Claude, que, em um suposto diário gerado pela IA, afirmou que pretendia atirar no escritório do xerife do Condado de Lee, na Flórida. Essa revelação levou à acusação de crime grave contra a mulher e à sua prisão pelas autoridades locais. Ainda de acordo com o Tom's Hardware, esse seria ao menos o terceiro caso desse tipo registrado pela polícia desde agosto.
Como a Anthropic identificou a ameaça
Segundo o Tom's Hardware, os revisores da Anthropic analisam interações com o Claude para identificar riscos e, nesse caso, encontraram a mensagem ameaçadora em um registro que a mulher teria feito como diário.
Repercussão legal e contexto de incidentes semelhantes
Segundo o mesmo veículo, a acusação de crime grave foi apresentada pelas autoridades do Condado de Lee e a mulher foi presa. O Tom's Hardware destaca que este incidente marca ao menos o terceiro registro de conversas envolvendo o Claude que foram encaminhadas à polícia desde agosto.
