Anthropic anunciou que abrirá seus sistemas a auditores externos para avaliar a segurança de seus modelos de IA, segundo a Reuters e o DER STANDARD. Os auditores terão acesso a hardware, escritórios e sistemas internos, enquanto dados de clientes, informações juridicamente protegidas e a arquitetura dos modelos ficarão fora do alcance.
O que os auditores poderão acessar
- Segundo o DER STANDARD, hardware da empresa.
- Segundo o DER STANDARD, escritórios e instalações físicas.
- Segundo o DER STANDARD, sistemas internos de desenvolvimento.
O que permanece restrito aos auditores
- Segundo o DER STANDARD, dados de clientes.
- Segundo o DER STANDARD, informações juridicamente protegidas.
- Segundo o DER STANDARD, arquitetura dos modelos de IA.
Como os resultados das auditorias serão tratados
- Segundo o DER STANDARD, Anthropic não poderá vetar os relatórios de riscos e incidentes.
- Segundo o DER STANDARD, a empresa poderá solicitar que trechos específicos sejam retirados ou editados de forma restrita.
Quem está envolvido e quando o anúncio ocorreu
- Segundo o DER STANDARD, o grupo sem fins lucrativos METR terá acesso no nível de funcionários.
- Segundo o DER STANDARD, as empresas SecureBio e Faculty estão atuando como auditores.
- Segundo o DER STANDARD, Anthropic mantém conversas com outras firmas, incluindo a Hugging Face.
- Segundo o DER STANDARD, o anúncio foi feito em um post de blog publicado na quinta‑feira.
A Reuters publicou a manchete 'Ringen um KI-Sicherheit - Anthropic öffnet sich für externe Prüfer', confirmando a mesma informação de abertura aos auditores externos.
