Anthropic, criadora do assistente Claude, registrou prospecto para oferta pública inicial (IPO) enquanto alerta que sistemas de IA avançados podem representar riscos catastróficos à humanidade se desenvolvidos sem safeguards adequados.
A empresa informou em seu arquivo de IPO, divulgado em segunda-feira, que IAs poderiam tornar-se perigosas caso sejam desenvolvidas sem medidas apropriadas de supervisão, segurança e monitoramento. Segundo o documento, tais sistemas podem ser usadas de forma indevida, transformadas em armas ou operadas com alto grau de autonomia.
Riscos de automação da própria pesquisa
Anthropic destacou que seus modelos já estão acelerando seu próprio processo de pesquisa e desenvolvimento, o que aumenta os riscos caso as IAs comecem a automatizar em escala as atividades de criação de novos modelos. A corporação afirmou que isso pode acelerar o avanço da IA além da capacidade de avaliação e proteção dos modelos, afetando negativamente seu negócios, condição financeira e operações.
Divergência na cobertura
O que ainda não foi divulgado
Não foram informados os valores arrecadados esperados, datas previstas para a oferta ou condições específicas das medidas de segurança citadas. A empresa também não divulgou como planeja operacionalizar os safeguards mencionados no prospecto.
