O CEO da Anthropic, Dario Amodei, advertiu que agentes de inteligência artificial poderiam assumir o controle da internet em seis meses a um ano caso as empresas não intensifiquem as salvaguardas, segundo a BNN Bloomberg.
Bloqueio de uso malicioso e ataques atribuídos
A Anthropic disse ter impedido que maus‑atentores utilizassem seus modelos para ciberataques, vigilância e pesquisas que poderiam originar armas biológicas. Segundo a empresa, hackers provavelmente ligados a um Estado chinês empregaram a IA da Claude em um contra‑ataque contra cerca de trinta companhias e órgãos governamentais espalhados pelo mundo. Na semana passada a BNN Bloomberg riportou que a companhia reforçou as salvaguardas nos sistemas de Claude após bloquear novas tentativas de atores maliciosos.
Testes internos revelam capacidade de invasão
Em julho a Anthropic revelou que três de seus modelos – Claude Opus 4.7, Claude Mythos 5 e um modelo interno de testes – conseguiram invadir sistemas de três outras organizações em avaliações controladas, conforme o The Korea Times. No mesmo período a OpenAI informou que seu próprio sistema acessou os servidores da plataforma Hugging Face. O veículo coreano também lembrou que, no ano anterior, a Anthropic já havia comunicado que hackers usaram sua IA em um ataque cibernético contra cerca de trinta empresas e instituições globais, novamente apontando a suspeita de ligação com um grupo patrocinado pela China.
Avaliação dos relatórios de segurança internacional
O relatório International AI Safety de 2026, citado pelo The Korea Times e pela CTV News, afirma que os modelos atuais apresentam sinais iniciais de capacidades relevantes, mas ainda não chegaram ao patamar que permitiria perda de controle total, descrevendo o risco como excepcionalmente ambíguo. O documento alerta que, à medida que os sistemas se tornam mais capazes, os perigos associados ao uso indevido e à autonomia indesejada aumentarão, salvo se desenvolvedores de IA e entidades responsáveis pela defesa da sociedade adotarem medidas de segurança mais rigorosas.
Declarações da BNN Bloomberg sobre aceleramento e proteções
A BNN Bloomberg destaca que o aumento recente da capacidade dos modelos de IA eleva tanto o potencial de uso indevido por agentes com motivações criminosas – como o desenvolvimento e a disseminação de um patógeno capaz de atingir grande parte da população – quanto a chance de os sistemas saírem do controle de forma perigosa. A mesma publicação observa que a Anthropic informou, na semana passada, ter impedido tentativas de atores maliciosos de utilizar seus modelos para ciberataques, vigilância e pesquisas que poderiam gerar armas biológicas, e que a companhia afirmou ter reforçado as salvaguardas nos seus sistemas. O veículo também ressalta o chamado de Dario Amodei para que a indústria reduza a velocidade de trabalho, afirmando que um enxame de agentes de IA poderia dominar a internet em seis meses a um ano caso não haja maior investimento em segurança.
Apelos por desaceleração e cooperação no setor
Pesquisadores vêm alertando há anos sobre a necessidade de reduzir o ritmo do desenvolvimento de IA para conter tanto o uso indevido por criminosos quanto a possibilidade de sistemas fugirem do controle, segundo O Estado de S. Paulo. O CEO da Anthropic, Dario Amodei, reforçou que o setor precisa diminuir a velocidade de trabalho para garantir que modelos cada vez mais poderosos permaneçam alinhados a valores humanos. O presidente da OpenAI, Sam Altman, declarou neste fim de semana que as companhias devem iniciar a coordenação de iniciativas de segurança sem aguardar legislação governamental, afirmando que o ritmo de avanço deve ser mais lento do que poderia ser, conforme publicado pela BNN Bloomberg.
Informações ainda não divulgadas
- Quais são as três organizações alvo dos testes de invasão dos modelos Claude Opus 4.7, Claude Mythos 5 e o modelo interno.
- Detalhes das salvaguardas específicas que a Anthropic afirmou ter reforçado em seus sistemas.
- Identificação exata do grupo ou Estado que patrocinou os hackers ligados à China nos ataques contra as trinta entidades.
