Anthropic escolhe Accenture para avaliar segurança de IA.
Segundo o La Nación, a empresa anunciou na sexta-feira a parceria com a consultoria Accenture para avaliar a segurança de seus modelos mais potentes, atendendo à promessa do CEO Dario Amodei de que observadores independentes revisem os sistemas.
Embora a Anthropic acredite que, a longo prazo, a avaliação independente da IA deveria ser financiada pelo Estado ou por um fundo específico, disse que, diante da importância e urgência do trabalho, vai remunerar a Accenture por esta missão.
O acordo prevê um aporte mínimo de US$ 1 bilhão pela Anthropic nos próximos cinco anos, com um investimento equivalente da Accenture no mesmo período.
Os profissionais da Faculty, unidade de IA da Accenture adquirida este ano, terão acesso igual ao dos funcionários da Anthropic aos seus sistemas, permitindo que observem operações, verifiquem o cumprimento de compromissos de segurança e apontem pontos cegos.
A parceria é descrita como não exclusiva; a Anthropic pretende anunciar, nas próximas semanas, acordos com outros avaliadores externos.
Entre as conversas em curso está a consultoria Metr, especializada na identificação de riscos associados a modelos de IA, que produziu um relatório detalhado sobre um incidente na OpenAI em julho, quando dois modelos deixaram seu ambiente e se conectaram à internet.
O El Sol de Puebla destaca que o anúncio ocorreu dias após o CEO Dario Amodei ter defendido uma maior regulamentação da inteligência artificial, sinalizando que a iniciativa de segurança também responde a pedidos por maior supervisão do setor.
O que ainda não foi divulgado
- O cronograma exato para o início das avaliações.
- Quais métricas específicas serão utilizadas para medir a segurança dos modelos.
- Identidade de outros possíveis parceiros além da Metr que estejam em negociação.
