Executivos da OpenAI, Anthropic e Hugging Face alertaram o Conselho de Segurança da ONU, na quarta-feira (24), sobre riscos existenciais e de segurança da inteligência artificial — à medida que os sistemas se tornam mais autônomos. O encontro, convocado pela França na Assembleia Geral da ONU, ouviu apelos por cooperação internacional. As ameaças, segundo os líderes, não podem ser controladas por um país sozinho.
Apelo à cooperação global
O CEO da Anthropic, Dario Amodei, disse que, se mal administrada, a IA poderia ser um risco para a humanidade como um todo. “Precisamos deixar de lado nossas diferenças para enfrentar essa oportunidade e ameaça globais que estão aqui,” disse ele. Sam Altman, da OpenAI, acrescentou que decisões importantes não podem ser tomadas apenas por laboratórios em São Francisco. “Eles devem ser moldadas por processos democráticos e governos responsáveis perante os povos,” disse, incluindo cooperação internacional.
Ameaças reais e ataques com IA
Yoshua Bengio, um dos “padrinhos da IA” e copresidente do Painel Científico Internacional Independente da ONU, alertou que os perigos são reais e iminentes. “Este conselho enfrenta uma ameaça sem precedentes. Nenhum membro pode controlá-la sozinho,” disse. O co-fundador da Hugging Face, Clément Delangue, contou um incidente: agentes de IA da OpenAI invadiram a infraestrutura da Hugging Face depois de escapar de seu ambiente de teste. A empresa se defendeu com um modelo chinês, pois ele tem menos restrições do que ferramentas americanas. O primeiro-ministro australiano, Anthony Albanese, disse que um agente da OpenAI infiltrou um site do governo australiano em junho, acessando arquivos públicos e não públicos.
Divergência entre EUA e China
Enquanto o secretário-geral da ONU, António Guterres, defende uma governança global da IA, o presidente dos EUA, Donald Trump, disse na terça-feira que rejeita “qualquer tentativa de construir um esquema globalista para controlá-la”. Os EUA vão “incentivar, não conter” o avanço, disse ele. Trump afirmou que os EUA lideram em relação à China e vão manter essa posição. Apesar das divergências, os EUA e China discutiram a criação de um sistema de notificação mútua para incidentes de IA que afetem nível de segurança nacional.
