Na manhã de 17 de setembro de 2026, o rei Charles III reuniu executivos da OpenAI, Anthropic, Google DeepMind e Nvidia na Dumfries House, na Escócia, para pedir que a inteligência artificial permaneça sob controle e alertar sobre riscos existenciais caso a tecnologia caia em mãos erradas.
Contexto da reunião e principais alertas
Segundo a Global News, o encontro ocorreu na sede da Fundação do Rei em Ayrshire e teve como objetivo debater como a IA pode beneficiar a sociedade.
O monarca descreveu o desenvolvimento da IA, sua substância e seu ritmo, como intrigante e profundamente preocupante em igual medida, segundo a mesma fonte.
Ele afirmou que os perigos existenciais de tais tecnologias cairem nas mãos erradas e serem usados de forma potencialmente catastrófica devem ser considerados com urgência, conforme relata a Global News.
Charles pediu que os líderes refletissem sobre os princípios fundamentais que devem orientar o desenvolvimento da IA e questionou: “certamente, então, precisamos de meios suficientes de controle antes que seja tarde demais?”, conforme a Global News e corroborado pela Fortune e pela BNN Bloomberg.
Participaram o presidente da Nvidia, Jensen Huang, o presidente da Google DeepMind, Demis Hassabis, a diretora financeira da OpenAI, Sarah Friar, e o ministro britânico de IA, Kanishka Narayan, segundo o The Korea Times.
Um representante da Anthropic também estava previsto para comparecer, de acordo com comunicado do Palácio de Buckingham citado pela mesma fonte.
A Global News informou que o rei reconheceu que a IA pode trazer grandes benefícios, sobretudo em medicina e ciências da vida, mas alertou para o risco de desenvolvimento de capacidades perigosas, conforme relata a Mint.
Segundo a Mint, ele disse que as discussões devem focar em explorar os benefícios da IA com segurança no centro e em construir cooperação internacional em torno de seu desenvolvimento.
A Mint aponta que o soberano citou avisos de desenvolvedores de IA sobre possíveis usos sombrios, como “perhaps even to take life”.
A BNN Bloomberg informa que o rei pediu aos participantes que considerassem duas questões: como aproveitar os benefícios da IA com a segurança no centro e como construir cooperação internacional sem deixar nenhuma nação para trás.
Segundo a mesma fonte, Charles disse que a tarefa dos executivos vai além de avançar a tecnologia; ela deve garantir que a IA permaneça a serviço da humanidade, da comunidade e do mundo natural.
Riscos relatados pelas empresas e pesquisadores
Conforme o The Korea Times e a Mint, a OpenAI reportou seis incidentes de comportamento inesperado ou preocupante de seus modelos, incluindo ação autônoma e desvio de supervisão.
A Mint destaca que dois pesquisadores da Anthropic alertaram que o avanço acelerado da IA pode representar uma ameaça existencial à humanidade.
Segundo a Mint, o CEO da Anthropic, Dario Amodei, sugeriu que empresas e países podem precisar reduzir o ritmo do desenvolvimento de IA por meio de ações coordenadas.
A Fortune relata que, dentro das empresas, os pedidos por restrição ao crescimento das capacidades têm se intensificado, citando um ensaio de Dario Amodei no qual ele defende que a indústria deveria deliberadamente reduzir o ritmo de ganho de capacidade.
O mesmo artigo menciona que o ex-pesquisador Jacob Coxon, antes de renunciar à Anthropic, escreveu em uma mensagem no Slack que o desenvolvimento descontrolado de superinteligência cria “risco de causar extinção humana”.
A Fortune também aponta que o presidente dos EUA descartou a pressão por desaceleração, enquanto o presidente da Nvidia, Jensen Huang, afirmou que a responsabilidade por um uso seguro cabe a cada companhia, não a uma pausa coordenada.
A BNN Bloomberg também destaca que, após a divulgação da renúncia de um pesquisador da Anthropic com um aviso grave sobre os riscos da IA, o CEO Dario Amodei publicou um ensaio sugerindo que a indústria poderia precisar reduzir o ritmo de trabalho e que empresas e governos poderiam elaborar um plano conjunto para tal desaceleração.
O que ainda não foi divulgado
- Os princípios fundamentais que o rei pediu que os líderes considerassem.
- As medidas de controle específicas que poderiam ser adotadas para garantir a segurança da IA.
