Chefes de empresas de inteligência artificial do mundo pediram ao Conselho de Segurança da ONU, nesta quarta-feira (23), que crie mecanismos globais de controle para a tecnologia que eles mesmos desenvolveram. Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, disseram que, sem regulação, a IA pode ser um risco para a humanidade.
“Se mal administrada, acredito que a IA pode ser um risco para a humanidade como um todo”, disse Amodei. Altman concordou: “Podemos perder o controle do futuro para a IA”. Ambos pediram que os países, por meio da ONU, criassem salvaguardas para evitar que a tecnologia fique com poder demais para ser controlada e que seu domínio não se concentre em uma única empresa ou país.
Controles específicos e padrões globais
Amodei propôs ações concretas: nações devem concordar em impedir que a IA seja usada em armas biológicas, criar mecanismos para verificar a capacidade real dos modelos e definir padrões comuns de teste, além de monitorar casos de perda de controle e uso indevido.
O secretário de Relações Exteriores do Reino Unido, Ed Miliband, endossou o alerta: “Esses líderes de tecnologia estão nos falando, de forma inequívoca, que não podemos deixar que eles mesmos evitem um desastre mundial. Não podemos ignorá-los; estão certos.” Miliband disse que, quando o Reino Unido assumir a presidência do G20 no próximo ano, colocará o controle da IA no centro das discussões, buscando padrões globais unificados para garantir que o desenvolvimento seja seguro.
EUA se opõem a novas estruturas de governança
Os Estados Unidos se opuseram à proposta de regulação internacional mais rígida. O conselheiro científico da Casa Branca, Michael Kratsios, disse que as preocupações com o controle da IA “não justificam parar seu desenvolvimento ou restringi-lo com uma nova estrutura global de governança”. Ele defendeu que aliados e parceiros devam compartilhar os benefícios da tecnologia.
O embaixador chinês na ONU, Fu Cong, destacou que todos os países devem escolher a tecnologia de IA como acharem melhor e alertou contra a formação de “panelinhas” no setor tecnológico. Essa divergência mostra a disputa entre EUA e China pela liderança em IA.
O que ainda não foi divulgado
O material não contém detalhes sobre a proposta legislativa concreta apresentada ao Conselho de Segurança, nem prazos para a implementação das salvaguardas sugeridas. Também não foi divulgado o cronograma das discussões do G20 sobre o tema.
