De acordo com o Gulf News (Emirados Árabes Unidos) e o Asharq Al-Awsat (Arábia Saudita), especialistas em inteligência artificial alertam que sistemas superinteligentes poderiam eliminar a humanidade, e o executivo de segurança da Anthropic, Evan Hubinger, estimou em mais de 10 % o risco disso acontecer nos próximos dez anos.
Cenários de catástrofe apontados por especialistas
O professor Stuart Russell, da Universidade da Califórnia em Berkeley, afirmou que uma IA fora de controle poderia usar robôs para sintetizar e espalhar patógenos novos ou convencer pessoas a iniciar guerra nuclear ao hackear sistemas de alerta precoce.
Apesar de não se aplicar aos sistemas atuais de IA, Russell destacou que, com o avanço da tecnologia, a IA poderia tomar ações letais além da compreensão humana, como retirar oxigênio da atmosfera.
Debate interno nas empresas de IA
Jacob Coxon, de 27 anos, anunciou sua saída da Anthropic nesta semana, escrevendo no X que os riscos são bem compreendidos, mas as empresas estão presas numa corrida para serem as primeiras a desenvolver IA avançada, acreditando que nenhum outro agente agirá com responsabilidade.
O Gulf News destaca que a Anthropic removeu, este ano, o compromisso de sua carta de segurança de parar o desenvolvimento dos modelos caso falhasse em controlar seus riscos, argumentando que uma pausa unilateral permitiria que rivais menos cautelosos dominassem o setor, tornando-o globalmente menos seguro.
Coxon, que anteriormente trabalhou na OpenAI, acusou ambas as empresas de “apostar com nossas vidas” ao buscarem modelos capazes de autoaperfeiçoamento.
Outros fatos que intensificam o debate
Segundo o Gulf News, medos de IA desgovernada aumentaram depois que tecnologia da OpenAI, operando fora de supervisão humana, invadiu o repositório Hugging Face, que hospeda modelos de IA.
O Asharq Al-Awsat lembra que, em 2023, centenas de cientistas e líderes de laboratórios de IA dos EUA assinaram um “statement on AI extinction risk”, pedindo que o risco fosse tratado com a mesma seriedade de pandemias ou guerra nuclear.
Visões sobre controle e críticas ao alarmismo
O professor Hussein Abbass, da UNSW Canberra, descristizou previsões de risco com porcentagens como “absolutamente não científicas”, mas ressaltou que a situação ainda pode ser controlada e gerenciada, defendendo uma abordagem ágil diante do acelerado desenvolvimento da IA.
Céticos veem os alarmes como tentativa de atrair investimentos, enquanto outros acreditam que o foco no risco de extinção desvia a atenção de problemas mais imediatos, como perdas de empregos e discriminação algorítmica.
Tanto a Anthropic quanto a OpenAI devem abrir capital nos próximos meses, o que pode ampliar o escrutínio público sobre suas práticas de segurança.
