A 금융보안원 (Agência de Segurança Financeira da Coreia do Sul) publicou o '금융분야 AI 에이전트 보안 평가 기준', um conjunto de diretrizes para avaliar a segurança de agentes de IA usados no setor financeiro.
Detalhes do padrão de segurança
- Segundo a Yonhap News, o documento traz 17 itens de avaliação, dos quais 10 tratam de ameaças específicas que surgem com a adoção de AI agentes.
- Os itens abrangem áreas como resposta a ataque de contaminação de dados, resposta a contaminação de modelo, resposta a extração de dados/modelo, resposta a ataque de evasão e segurança geral do AI agente.
- O Digital Daily informa que o padrão amplia a supervisão além da camada do modelo, incluindo controle de permissões de ferramentas, ambiente de sandbox, interruptor de emergência (kill switch) e outras medidas de camada de execução.
- Segundo o Datanet, a elaboração utilizou referências como o OWASP Top 10 para aplicações agente, o guia de Red Teaming de AI agente da Cloud Security Alliance e o guia de segurança de AI da Agência Nacional de Inteligência da Coreia.
Cronograma de implementação e relatório
A Digital Daily relata que o 金융보원 realizará testes piloto com instituições financeiras até o fim de 2026 e pretende aplicar o padrão oficialmente a partir de 2027.
O mesmo veículo acrescenta que, ainda em 2026, será publicado o 'AI Red Team Report', contendo as ameaças confirmadas, técnicas de ataque observadas e a versão final dos critérios de avaliação.
Em declarações citadas por todas as três fontes, o presidente do 金융보안원, 박상원, afirmou que o objetivo é verificar de forma prática os riscos dos AI agentes e apoiar o uso seguro e confiável da tecnologia pelas empresas financeiras.
