Pesquisadores apresentaram o Minimum-Necessary Communication (MNC), um protocolo de desclassificação semântica tipada para sistemas de múltiplos agentes baseados em modelos de linguagem (LLMs). A tecnologia visa impedir que estados protegidos sejam expostos por meio de mensagens internas, logs e memória persistente, mesmo quando o resultado final para o usuário parece inofensivo.
Funcionamento do protocolo
O MNC diferencia-se de métodos tradicionais, como prompts de privacidade e técnicas de redação de dados, ao focar na governança da informação após o compartilhamento inicial. O protocolo seleciona apenas o necessário para a execução de uma tarefa e vincula esse dado a escopos explícitos que incluem destinatário, propósito, permissão de encaminhamento, tempo de vida e regras de log. Um monitor de referência aplica essas restrições durante as operações do sistema, enquanto uma extensão baseada no histórico avalia os riscos acumulados por sucessivas revelações.
Resultados e eficácia
Experimentos realizados, incluindo testes de memória e sondagem, indicam que defesas convencionais falham ao permitir sinais de inferência significativos sobre dados confidenciais. Em contrapartida, o uso do MNC mantém a utilidade operacional e bloqueia o armazenamento durável, o encaminhamento não autorizado e a recuperação de informações após a expiração do escopo definido. A eficácia foi verificada em execuções de dois backbones no sistema MAGPIE, confirmando que as divulgações mediadas limitam a propagação indevida durante o planejamento e o uso de ferramentas pelos agentes.
O que ainda não foi divulgado
- A disponibilidade de implementações comerciais ou de código aberto do protocolo.
- O impacto específico no desempenho de latência ou consumo de recursos computacionais em larga escala.
- Detalhes sobre a integração do protocolo em plataformas de IA já consolidadas no mercado.
A notícia circulou em 3 fontes de 2 países diferentes.