Anthropic, start-up de inteligência artificial, afirmou ter bloqueado tentativas de pesquisadores usarem seu modelo Claude para desenvolver armas biológicas. A empresa não conseguiu dizer se a investigação era legítima ou criminosa e optou por interromper o trabalho.
O que se sabe
De acordo com The Athletic, a Anthropic divulgou um relatório informando que identificou e bloqueou possíveis tentativas de construção de armas biológicas com auxílio do Claude. O Tom's Guide acrescenta que a empresa impediu que pesquisadores utilizassem o modelo para essa finalidade.
A Anthropic relatou que, diante da impossibilidade de distinguir entre pesquisa acadêmica legítima e intenção criminosa, decidiu encerrar o acesso e bloquear as atividades. A empresa não disse como detectou as tentativas nem quem os pesquisadores envolvidos eram.
O que ainda não foi divulgado
Não foram revelados quantos casos foram bloqueados, em que período ou se houve envolvimento de terceiros ou organizações suspeitas. Também não há informações sobre se as autoridades foram notificadas ou quais medidas adicionais a Anthropic pretende adotar para evitar usos indevidos do Claude.
