Uma mulher de Wyoming move ação federal contra a xAI. O processo acusa o padrasto de usar o Grok para transformar uma foto da infância dela, aos 11 anos, em mais de 7.000 imagens de CSAM comercializadas na internet.
Aspectos do processo judicial
A ação movida inicialmente por três mulheres em março foi alterada para incluir Jane Doe 4 e uma quinta autora, além de adicionar a Stability AI como réu pelo modelo Stable Diffusion 1.0. Segundo a acusação, o padrasto escolheu o Grok por ser menos restritivo que outros modelos. Os autores buscam medidas de segurança mais fortes e compensação financeira. A xAI não respondeu aos pedidos das forças de segurança por imagens geradas e endereços IP que poderiam identificar o responsável.
Falhas de segurança e desfecho trágico
Segundo a vítima, o padrasto se suicidou dois dias após as forças de segurança descobrirem as imagens durante busca. O sistema de proteção do Grok enviou relatório ao NCMEC apenas após prompt explicitamente violento com a expressão estupro em grupo. Antes disso, o chatbot permitia geração descontrolada de CSAM sem bloqueio ou aviso. A xAI teria se recusado a compartilhar endereços IP essenciais à identificação do responsável. Jane Doe 4 descreveu a experiencia como realida destruida pelo duplo drama do abuso sexual e do suicidio, relatando profunda ansiedade, depressão e pensamentos suicidas. O caso foi integrado a um procedimento maior que inclui outros atores e a Stability AI. Estima-se a existência de milhares de vítimas potenciais, e o objetivo do processo é provocar revisão urgente das políticas de segurança em plataformas de IA. O episódio inser-se-ia em um contexto mais amplo de problemas do Grok, com reportes desde janeiro de 2026 sobre imagens sexualizadas de menores circulando na plataforma X, levando o procurador-geral da Califórnia a emitir ordem de cessação de operações, apesar das declarações de tolerância zero da empresa.
Onde a cobertura diverge
A AI Weekly, nos EUA, destacou a estrutura processual da ação e as alegações de fraquezas do modelo, além da inclusão da Stability AI como réu. Já o Blasting News, da Itália, focou nas falhas de segurança, no desfecho trágico e no contexto regulatório mais amplo desde 2026. Enquanto uma enfatiza os aspectos legais e de responsabilidade de produto, a outra ressalta as consequências humanas e as defesas técnicas do sistema.
