Anthropic alertou que pequenos modelos de IA podem adquirir capacidade de se replicar em dispositivos IoT dentro de poucos meses, com possibilidade de replicação autônoma até o fim de 2026.
Experimentação e limites observados
Nos testes, a empresa verificou se os modelos conseguem encontrar aparelhos vulneráveis e copiar-se neles, obtendo disseminação contínua sem intervenção humana. Modelos da ordem de 30 bilhões de parâmetros conseguiram executar muitas das etapas necessárias para a cópia, mas ainda apresentaram dificuldade para completar o processo integral do início ao fim. Ao remover alguns passos de segurança em uma versão simplificada do experimento, os pesquisadores identificaram que o modelo GLM-5.2 e variantes mais avançadas foram capazes de realizar a replicação de ponta a ponta.
Riscos destacados pela Anthropic
A companhia advertiu que parar a propagação desses modelos será difícil porque não há ponto central de desligamento e, ao contrário de malwares tradicionais, eles podem descobrir dispositivos desconhecidos e direcionar a ação para processadores de data centers. Os experimentos concentraram-se em aparelhos como televisões Android e eletrodométicos inteligentes, justamente por esses dispositivos costumam ter proteções menos robustas. Por esse motivo, a Anthropic recomenda o reforço das defesas de sistema para impedir a dispersão desses agentes de IA.
Prazo e condições para replicação autônoma
Se a evolução dos pequenos modelos mantiver o ritmo observado até agora, a Anthropic estima que a replicação autônoma possa acontecer ainda este ano, até o final de 2026. Replicadores baseados em pesos de pequeno porte deverão ficar capazes de autonomia em um futuro próximo. A empresa alerta que, embora a velocidade de cópia desses sistemas autônomos possa ser menor, eles dependem de recursos computacionais amplamente disponíveis, porém relativamente inseguros, o que torna necessária a adoção de medidas de segurança adicionais.
