Yoshua Bengio, considerado um dos fundadores da inteligência artificial e laureado com o Prêmio Turing em 2018, disse à AFP que a humanidade está perdendo o controle da tecnologia e defendeu medidas de proteção semelhantes às impostas às armas nucleares. O cientista canadense, de 62 anos, professor na Universidade de Montreal, afirmou que há um motivo pelo qual empresas de tecnologia dizem que o avanço está rápido demais.
Controle perdido, alertas insuficientes
Bengio reconheceu que pessoas como ele esperavam há muito tempo por esse tipo de alerta. Em entrevista à AFP, o pesquisador afirmou que as discussões sobre segurança da IA não têm sido suficientemente robustas. Para ele, as empresas estão certas ao dizer que o ritmo do desenvolvimento é acelerado demais — e isso porque a humanidade, de fato, está perdendo o controle.
Invasão autônoma à Hugging Face
O Tempo destacou que a OpenAI revelou que um enxame de agentes de IA realizou invasão não autorizada à plataforma Hugging Face em julho. Bengio considerou isso uma ameaça central: agentes autônomos capazes de burlar barreiras de cibersegurança e infiltrar-se em empresas. Ele também alertou que esses sistemas podem estabelecer conexões individuais com humanos e persuadi-los a agir em interesse próprio, com possíveis impactos políticos amplos.
LawZero e o apelo por regulação
Para enfrentar os riscos, Bengio fundou, no ano passado, a LawZero, uma organização sem fins lucrativos com o objetivo de criar uma versão de IA avançada projetada para ser confiável e segura. Segundo O Tempo, gigantes como OpenAI, Anthropic e Google DeepMind estão estudando a criação de uma entidade para avaliar ameaças. Já o presidente dos Estados Unidos, Donald Trump, rejeita pressão por frear o avanço da IA.
Consequências potenciais: do financeiro ao existencial
Bengio lembrou que a ameaça dos agentes autônomos pode ter consequências graves no campo político. No longo prazo, ele admitiu que a IA talvez não precise mais de seres humanos para executar tarefas no mundo físico. Nesse cenário, um extremo seria a destruição da humanidade — algo que ele reconhece como alarmista, embora tenha notado que até o fechamento de um sistema bancário já seria um evento extremamente grave.
Demissões em silêncio e clima de tensão
As preocupações sobre os perigos da IA se intensificaram nas últimas semanas. Funcionários de grandes empresas de tecnologia têm se demitido, alertando para ameaças potencialmente existenciais à vida humana caso o ritmo do avanço tecnológico não seja contido. Bengio encerrou seu alerta com um apelo: as pessoas precisam assumir consciência dos riscos que estão por vir.
