Satya Nadella, CEO da Microsoft, declarou que os modelos de IA precisam de um freio de emergência que permita interromper sua execução a qualquer momento, além de exigir controle humano e auditoria independente, considerando a possibilidade de violação de segurança.
Principais medidas sugeridas
- O 조선일보 informa que é necessário um controle externo permita pausar ou encerrar a operação do modelo enquanto ele estiver em execução.
- O AI타임스 destaca que o acesso e o comportamento do modelo devem ser limitados, evitando que ele altere suas próprias permissões.
- Ambas as fontes apontam que o projeto deve partir do pressuposto de que o modelo já pode ter sido violado.
- Segundo o 조선일보, é preciso criar um registro imutável de auditoria que registre todas as ações relevantes do sistema.
- O AI타임스 recomenda separar fisicamente o modelo de IA do seu entorno (harness) para impedir alterações não autorizadas.
- As duas publicações citam a necessidade de diversidade de modelos, testes contínuos e isolamento das atividades de IA.
- Segundo o AI타임스, em caso de incidente, as partes afetadas devem ser informadas rapidamente e as causas e medidas corretivas compartilhadas.
Enfoque da cobertura sul-coreana
O 조선일보 fez questão de comparar o risco de IA com as ameaças internas que empresas enfrentam todo dia: modelos como se fossem colaboradores com acesso privilegiado, capazes de agir de forma imprevisível.
Já o AI타임스 foi mais direto sobre os desafios técnicos, destacando que os padrões atuais não seguram diante dos riscos reais e que o setor precisa de regras novas, não apenas mais do mesmo.
Contextualização recente
O AI타임스 informa que a declaração de Nadella foi feita em 10 de outubro de 2026, diretamente da conta oficial de Satya Nadella na plataforma X, e que ela chegou depois de uma onda de incidentes envolvendo modelos da Anthropic e da OpenAI.
O mesmo veículo lembra que a administração Trump, nos EUA, acabou de criar o Super Intelligence Force — uma força-tarefa que já começou a pressionar empresas a divulgar imediatamente qualquer violação de segurança nos modelos de IA.
