A Anthropic informou ter bloqueado tentativas de pesquisadores utilizarem seu modelo Claude para desenvolver armas biológicas, afirmando não conseguir discernir se a atividade era pesquisa legítima ou intenção criminosa.
Detalhes do bloqueio e reações internacionais
Segundo o The Athletic, a Anthropic divulgou um relatório indicando que identificou e bloqueou possíveis tentativas de construção de armas biológicas com auxílio do Claude.
O New York Times Technology repercutiu a informação, destacando que a empresa não pôde determinar se a pesquisa era legítima ou maliciosa.
O Tom's Guide acrescentou que a Anthropic impediu que pesquisadores utilizassem o modelo para fins suspeitos.
O Olhar Digital publicou que a Anthropic bloqueou cientistas após identificar pesquisas com IA com potencial desenvolvimento de armas biológicas.
O Le Monde Pixels ressaltou que a Anthropic reforçou as medidas de segurança de seus modelos mais recentes para limitar pesquisas biológicas susceptíveis de serem usadas como armas.
O Die Zeit afirmou que a empresa interrompeu solicitaçóes relacionadas ao desenvolvimento de biológicos, enfatizando a dificuldade de distinguir entre finalidades médicas e militares.
O FT Alphaville destacou que a startup divulgou cinco exemplos de usuários que contornaram os controles e tentaram ocultar o objetivo de suas pesquisas.
Ausência de informações completas
A Anthropic não informou quantos casos foram bloqueados, em que período ou se houve envolvimento de terceiros ou organizações suspeitas.
Também não há dados sobre se as autoridades foram notificadas ou que medidas adicionais a empresa pretende tomar para prevenir usos indevidos do Claude.
