Satya Nadella, CEO da Microsoft, publicou no X em 10 de outubro de 2026 que IA avançada precisa de freio controlado por humanos, com botão de emergência e auditorias independentes.
Princípios de segurança propostos
Nadella listou sete princípios para aumentar a segurança da IA. Entre eles, usar modelos diferentes para tarefas críticas, manter registros verificáveis das ações e realizar testes contínuos que incluam falhas e ataques.
- Utilizar modelos distintos para tarefas importantes.
- Registro verificável das ações realizadas.
- Testes contínuos que contemplam falhas, ataques e situações extremas.
- Auditabilidade independente, sem depender da própria IA avaliada.
- Registros legíveis por humanos e protegidos contra alterações.
- Princípio de contenção: presumir que o modelo pode estar comprometido e permitir que pessoa autorizada pause ou desligue o sistema.
- Divulgação rápida de incidentes às partes afetadas.
Como os controles devem funcionar
A proposta prevê separação entre o modelo de IA e a estrutura que organiza sua execução, além de definição externa das ações que o modelo pode realizar.
As organizações devem ter autonomia para determinar quais dados podem ser acessados e quais operações podem ser executadas, sem permitir que a IA altere ou contorne as regras estabelecidas. Nadella também afirma que os controles de segurança não devem ficar sob responsabilidade do próprio modelo.
