A inteligência artificial da empresa anunciou planos de oferta pública, alertando investidores sobre riscos como uso indevido de modelos por agentes mal-intencionados e ameaças à pr própria humanidade.
Em sua apresentação à Comissão de Valores Mobiliários dos EUA (SEC), a Anthropic dedicou 93 páginas, de um total de 335, à enumeração de possíveis ameaças. Entre os fatores de risco listados, a empresa destacou a possibilidade de que terceiros utilizem seus modelos para desenvolver armas letais, além de cenários em que a tecnologia poderia agir de forma autônoma e imprevisível, trazendo consequências desconhecidas.
Riscos técnicos e operacionais
A Anthropic também pontuou riscos mais comuns em empresas de tecnologia, como a dificuldade de reter talentos-chave, desafios regulatórios e vulnerabilidades a ciberataques. A empresa ressaltou que a velocidade do desenvolvimento da IA pode superar a implementação de medidas de segurança adequadas, aumentando a probabilidade de incidentes, intervenções governamentais ou danos à reputação. Em setembro, o CEO Dario Amodei advertiu que a IA poderia estar apta a comandar redes de agentes capazes de dominar a internet em até 12 meses.
Conexão com o investimento
Segundo a empresa, o anúncio da IPO faz parte de sua estratégia para mitigar os próprios riscos associados ao avanço da IA. Em carta aos acionistas, os fundadores declararam que "construir IA significa dominar a própria cognição", e que essa força pode ser usada tanto para o bem quanto para o mal. A Anthropic afirma estar comprometida com valores e com o desejo de maximizar os benefícios da IA, como avanços na medicina e aumento da produtividade global.
Onde a cobertura diverge
A cobertura da notícia em fontes nacionais e internacionais apresenta pequenas variações no tom da informação. Enquanto uma publicação canadense destaca os riscos sistêmicos à humanidade e o potencial uso indevido por grupos mal-intencionados, uma emissora norte-americana se concentra mais nos possíveis danos colaterais da própria tecnologia e na responsabilidade legal da empresa.
