OCTO+

IA gera relatório falso e quase provoca conflito entre EUA e China

Relatório de IA quase levou EUA a interceptar navio chinês, segundo CNN; risco de escalada é alerta sobre uso da tecnologia na guerra.

19 de set., 06:35 20 fontes · 7 países Segurança
Segurança
Navio militar navegando no oceano sob céu nublado Foto: Khandakar RH Shumon / Pexels

Um relatório militar falso, produzido com inteligência artificial, quase levou os Estados Unidos a interceptar um navio chinês no meio do Pacífico. Segundo a CNN, citando quatro fontes familiarizadas com o caso, as Forças Armadas americanas já estavam em estágios finais da operação — com aviões sobrevoando a embarcação — quando detectaram que o documento era fruto de um chatbot mal interpretado por um analista de um comando de operações especiais.

O incidente, conforme apurado por La Silla Vacía com base na cobertura da CNN, começou quando o analista consultou um chatbot sobre o manifesto do navio, que lista carga, passageiros e tripulação. O bot combinou dados de fontes abertas com informações sigilosas de arquivos governamentais e concluiu, erroneamente, que o navio transportava componentes de um programa nuclear. “Completamente falso”, segundo uma das fontes ouvidas pela CNN — e quase uma gatilhoadora para um conflito entre duas potências.

O analista, então, usou novamente a IA para estruturar os achados em um relatório de inteligência padrão e o distribuiu entre autoridades militares. Foi apenas antes da operação que os oficiais perceberam a falha: um documento gerado por máquina, sem supervisão humana adequada, subiu ao sistema de decisão estratégica.

Recursos internos são “cópias com maquiagem”, diz ex-funcionário

A La Silla Vacía destaca que o caso ilustra os riscos de usar IA ainda pouco compreendida para selecionar alvos em meio a uma guerra. Um ex-alto funcionário dos EUA, familiarizado com os sistemas internos de IA militar, teria dito que as ferramentas usadas pelos analistas são, na maioria das vezes, simples cópias das versões comerciais, com uma camada de maquiagem.

Mão de robô digitando em tela de computador com código
Foto: Tara Winstead / Pexels

Trump escreveu em seu post: “Os meios de comunicação não deveriam poder escrever e publicar constantemente ficções e mentiras quando cobrem o presidente dos Estados Unidos, a administração Trump ou os Estados Unidos da América.”

O que permanece em aberto

A La Silla Vacía não detalha o conteúdo exato do manifesto do navio, nem especificações do chatbot utilizado. Também não há informações sobre sanções internas aos analistas envolvidos ou investigações do Congresso americano. Não se sabe ainda se o plano de interceptação foi interrompido antes de qualquer ação concreta ou se havia apenas preparativos logísticos avançados.

Mas o alerta é claro: quando a IA entra na cadeia de decisão militar, a margem de erro deixa de ser técnica e passa a ser geopolítica.

Apurado em 20 fontes

La Jornada (México) · La Silla Vacia (sitemap-news) (Colômbia)

ver as 20 fontes

Continue lendo

Receba sem abrir o site

no e-mail ou no WhatsApp · análises + plantão + resumo semanal · cancele com 1 clique
Pronto. A primeira edição chega no seu e-mail.

Assine GRÁTIS e cancele com 1 CLIQUE quando quiser. ;)