Um adolescente de 16 anos revelou uma confidencia ao ChatGPT e a conversa foi usada como prova em um processo judicial nos EUA; segundo o Washington Post, pelo menos 12 decisões judiciais americanas nos últimos dois anos utilizaram conversas com IA como evidência, incluindo casos de ameaças e perseguição.
Uso de conversas com IA como evidência nos tribunais americanos
O Washington Post registrou que, nos últimos dois anos, ao menos 12 processos nos EUA tiveram trechos de diálogos com modelos de linguagem admitidos como prova, segundo informações publicadas por volta de agosto de 2024.
A reportagem destaca o caso de Darren Zhou, homem da Flórida preso em maio após detalhar ao ChatGPT como planejava matar sua ex-namorada e a si mesmo; as mensagens foram apresentadas como evidência de stalking e ameaças ilegais, apurado pela polícia local.
Caso do adolescente e preocupações de privacidade
O jovem, identificado apenas como R.K.C, moveu ação contra Meta, Snapchat, TikTok e YouTube alegando dependência de redes sociais e problemas de saúde mental. Durante o processo, ele perguntou ao ChatGPT sobre o significado de uma declaração de seu pai sobre um possível acordo de milhão de dólares.
O advogado Mike Morgan, que representou o adolescente, afirmou que, apesar de os registros da conversa não terem influenciado o desfecho da ação, o episódio evidencia a crescente preocupação de que informações compartilhadas com IA possam chegar às mãos de advogados ou autoridades sem o consentimento do usuário.
Monitoramento de riscos pela OpenAI
A OpenAI declarou que utiliza software para escanear conversas em busca de sinais de comportamento perigoso. Quando um avaliador humano identifica risco iminente de dano a terceiros, os logs podem ser encaminhados à polícia.
