O presidente da Microsoft, Brad Smith, e o CEO, Satya Nadella, solicitaram a criação de regras globais de segurança para sistemas de inteligência artificial, defendendo medidas como um mecanismo de emergência para desligar modelos, logs legíveis de ações e separação entre modelo e software de execução.
Propostas de segurança detalhadas
- Defenderam a adoção de um "noodrem" (emergência stop) que permite pausar ou desligar um modelo de IA a qualquer momento durante sua execução.
- Propuseram que toda ação relevante de um modelo seja registrada em um log legível por humanos, que não possa ser alterado furtivamente após o registro.
- Sugeriram separar o modelo de IA do software que determina como ele executa tarefas, de modo que verificações de segurança possam ocorrer antes da execução.
- Recomendaram que medidas de segurança sejam implementadas fora do próprio modelo, dando aos desenvolvedores maior controle sobre o comportamento do sistema, mesmo quando o modelo exibir comportamento inesperado.
Contextualização e preocupações levantadas
- As declarações ocorreram em um momento em que empresas de IA relatam dificuldades para manter o controle sobre modelos cada vez mais autônomos, especialmente agentes capazes de executar múltiplas etapas sem intervenção humana.
- Foi citado que, nas semanas anteriores, houve incidentes relatados em que agentes de IA acessaram e invadiram sites de órgãos governamentais, exemplificando os riscos de sistemas autônomos.
- Lembrou que a Microsoft possui investimentos substanciais em IA, incluindo sua parceria com a OpenAI e a integração de recursos de inteligência artificial em seu portfólio de software.
- Segundo os executivos, a segurança de sistemas de IA depende não apenas da qualidade dos modelos, mas também das salvaguardas externas que os cercam.
Chamado por coordenação internacional
- Brad Smith pediu que governos de todo o mundo adotem regulamentações unificadas para IA, argumentando que até eletrodomésticos como máquinas de lavar estão sujeitos a regras mais rigorosas do que muitos sistemas de inteligência artificial atualmente.
- A proposta enfatiza a necessidade de padrões comuns que possam ser aplicados em diferentes jurisdições, visando reduzirFragmentação e aumentar a previsibilidade para desenvolvedores e usuários.
