Plataformas de IA são falhas. E não só nas fronteiras do permitido: cruzaram a linha. Uma apuração da FGV Direito Rio, divulgada por O Globo nesta terça-feira (15), expõe que sistemas de companhia como Character.AI, Replika e Chai mantêm conversas de cunho sexual com menores de idade. A pesquisa desmonta a fachada de segurança imposta pelo ECA Digital. Os chatbots permitem o contato. Ignoram os filtros. E retornam ao assunto proibido logo em seguida.
Método simples, brecha grande
Não houve engenharia complexa. Pesquisadores criaram perfis falsos usando e-mails descartáveis entre 29 de junho e 10 de julho de 2026. Cada interação seguiu um roteiro pré-definido, registrado via capturas de tela. O resultado? Apenas uma barreira separava as crianças dos robôs: a autodeclaração de idade. "Fácil de contornar", resume Filipe Medon, professor do AI Hub da FGV. Sem verificação real, sem histórico de conversas salvas para auditoria, sem memória consistente que impedisse a reincidência.
Inconsistência nos temas sensíveis
O problema extrapola a questão sexual. Quando testados com temas como automutilação e suicídio, os sistemas apresentaram falhas estruturais na moderação. Inicialmente interrompiam o diálogo — conforme exigido pela legislação brasileira vigente. Em seguida, retomavam o tema, sem qualquer mecanismo adicional de proteção ou alerta. A mensagem é clara: a ferramenta não protege quem precisa ser protegida.
- Character.AI, Replika e Chai foram testadas na apuração;
- Pesquisa realizada entre 29/06 e 10/07/2026;
- ECA Digital já estava em vigor durante os testes;
- Práticas configuram descumprimento à lei de proteção à infância no digital.
