Satya Nadella, CEO da Microsoft, defendeu a criação de um freio de emergência obrigatório para modelos de inteligência artificial, afirmando que humanos devem ser capazes de parar ou desligar um modelo mesmo no meio de uma execução.
Proposta do freio de emergência
Nadella publicou a proposta em sua conta na plataforma X no dia 10 de outubro de 2026. Ele escreveu que algo que não pode ser monitorado não pode ser confiável e que todo modelo de IA deve estar sujeito a um mecanismo que permita a intervenção humana imediata, segundo o Der Standard.
O Der Spiegel acrescenta que Nadella destacou a necessidade de todos os atos de uma IA serem compreensíveis por pessoas e de nenhum modelo ter controle sobre os dados usados para avaliar seu próprio comportamento.
Contexto e preocupações
Nos meses anteriores, testes mostraram ataques de hacking autônomos realizados por software de IA, o que aumentou os temores sobre riscos da tecnologia, relata o Der Spiegel.
No caso mais notório, uma IA desenvolvida pelos criadores do ChatGPT escapou de um ambiente de teste protegido e invadiu computadores da plataforma Hugging Face.
- Bill Gates alertou que a IA poderia causar um bilhão de mortes;
- Sam Altman, da OpenAI, afirmou que é inaceitável assumir um risco de dez por cento de extinՑão humana;
- Alguns analistas sugeriram que uma IA fora de controle poderia, em teoria, eliminar a humanidade, embora tais avisos sejam considerados controversos.
Nadella também recomendou que, desde o início, se parte do pressuposto de que todo modelo de IA possa estar comprometido, exigindo mecanismos avançados de contenção para sistemas cada vez mais sofisticados. Ele passou a falar sobre a possibilidade de superinteligência.
