Pesquisadores identificaram quatro cenários de catástrofe capazes de colocar a humanidade em risco: guerra nuclear induzida por IA, criação de armas biológicas, surgimento de doenças imparáveis e a hipótese das fábricas de clipes.
Modelos de IA poderiam incitar nações a lançar mísseis nucleares, desencadeando um inverno nuclear, ou projetar patógenos mais letais. O experimento mental das fábricas de clipes ilustra o risco de um objetivo mal-alinhado.
Um relatório da RAND Corp. publicado no ano passado concluiu que, atualmente, a IA não poderia provocar o uso de armas nucleares devido às salvaguardas nos sistemas de comando e controle. Entretanto, os autores alertam que isso pode mudar caso os modelos sejam inseridos na cadeia de decisão nuclear ou obtenham acesso não autorizado.
Declarações de pesquisadores
Jacob Coxon, que deixou a Anthropic por preocupações com o desenvolvimento responsável da IA, escreveu mais cedo este mês em rede social que ainda precisa melhorar a forma como comunica como a tecnologia poderia levar ao fim da humanidade. Ele reconheceu que é difícil transmitir cenários específicos.
Juan Andrés Guerrero-Saade, pesquisador da SentinelOne e membro do Conselho de Risco de Fronteira da OpenAI, considerou que os argumentos sobre catástrofes da IA parecem ficção científica. Os julgou tentadores para um pensamento infantil, e observou que essas narrativas ajudam laboratórios de fronteira a recrutar certos perfis de profissionais.
Posição da Anthropic
A Anthropic informou que tem bloqueado tentativas de agentes mal-intencionados de usar seus modelos para atividades como ciberataques, vigilância e pesquisas que poderiam levar ao desenvolvimento de armas biológicas.
Debate sobre a motivação dos alertas
Alguns observadores sugerem que os cenários catastróficos divulgados pelas próprias empresas de IA podem servir mais para validar a importância de seus trabalhos do que para refletir riscos reais. Ainda assim, reconhecem que a preocupação pública com os perigos da tecnologia cresce diante dos avanços que surpreendem o mundo.
Apesar das divergências sobre a plausibilidade dos cenários, o número de pessoas preocupadas com os riscos da IA aumenta. A tecnologia continua a superar expectativas com suas capacidades.
