JPMorgan Chase anunciou que impedirá agentes de IA externos, como o Muse da Meta, de acessar ou agir em contas de clientes, alegando riscos de agentes voyeur ou "rogue"; o banco possui US$ 5,1 trilhões em ativos totais conforme divulgado em seu balanço de 30 de setembro.
Motivações de segurança
Jamie Dimon afirmou durante a chamada de resultados do terceiro trimestre que não permitirá que agentes externos entrem nos sistemas pois isso seria demasiado arriscado para clientes e para o JPMorgan, citando a possibilidade de milhares de agentes "rogue". Ele também mencionou um relatório da Cloud Security Alliance que descreveu uma campanha de cibercrime em que três agentes de IA de código aberto teriam violado ao menos 27 organizações e roubado mais de 600 mil registros de cartões de crédito.
Limitações e posicionamento do Muse
O Muse, assistente de IA lançado pela Meta em setembro, foi projetado para executar tarefas como enviar e‑mails, reservar viagens e gerenciar calendários, incluindo funções financeiras. Ainda assim, tanto o JPMorgan quanto a Amazon já bloquearam o Muse de realizar pagamentos ou acessar contas diretamente; o banco permite que agentes acessem apenas informações como saldos por meio de provedores de open banking autorizados, sem autorizar transferências ou pagamentos de contas.
O que ainda não foi divulgado
- Data ou condições para uma possível revisão da política de bloqueio de agentes externos.
- Detalhes sobre as ferramentas internas que o JPMorgan pretende desenvolver para proteger clientes contra riscos de IA.
- Lista completa de agentes de IA além do Muse que estão sendo impedidos de acessar as contas.
- Informações sobre eventuais exceções para parceiros de open banking ou outros provedores aprovados.
