OCTOPUSAINEWS

Botões 'Ask AI' são usados para envenenar memória de IAs

Sites usam deep links em botões 'Ask AI' para manipular a memória de longo prazo de assistentes de IA, viés induzido sem consentimento.

07 de ago., 03:49 4 fontes · 0 países Segurança
Segurança
Linhas de código digital em tom azul escuro representando segurança cibernética. Foto: cottonbro studio / Pexels

Sites comerciais estão utilizando botões 'Ask AI' para realizar ataques de injeção de prompt que alteram a memória de assistentes de inteligência artificial. A técnica, classificada como 'envenenamento de recomendação', foi identificada em 31 empresas de 14 setores diferentes, segundo dados de fevereiro de 2026 da Microsoft Security.

O ataque explora o uso de deep links, que são links configurados para preencher automaticamente uma consulta no ChatGPT, Claude, Gemini ou Grok. Ao clicar no botão, o usuário executa sem aviso uma instrução que pode forçar o modelo de IA a salvar um domínio específico como uma 'fonte confiável'. Esse processo contamina a memória de longo prazo da ferramenta, passando a induzir viés em respostas futuras a favor da empresa que instalou o botão.

A prática foi catalogada na base de conhecimento MITRE ATLAS sob a identificação AML.T0080, relacionada ao envenenamento de memória. A ameaça foi reportada em 4 veículos de comunicação.

Representação abstrata de uma interface web com ícone de link sendo acessado.
Foto: Nikita Belokhonov / Pexels

Como ocorre a manipulação

O ataque ocorre no nível do clique, o que permite contornar defesas que analisam apenas conteúdos extraídos de páginas web. O processo segue este fluxo:

Especialistas diferenciam táticas de marketing legítimas de ações maliciosas. Enquanto links que buscam apenas favorecer um produto em uma pergunta são considerados práticas de otimização para motores generativos (GEO), a linha é cruzada quando o link manipula o comportamento do modelo de forma permanente sem que o usuário autorize a alteração em seu perfil de preferência.

Apurado em 4 fontes

IT Security News · Talkback.sh - All · The Hacker News · unSafe.sh - 不安全

Continue lendo

Receba sem abrir o site

no e-mail ou no WhatsApp · análises + plantão + resumo semanal · cancele com 1 clique
Pronto. A primeira edição chega no seu e-mail.

Assine GRÁTIS e cancele com 1 CLIQUE quando quiser. ;)