Character.AI entrou com pedido de falência Chapter 11 e anunciou a venda de alguns ativos para a Disney, enquanto o procurador-geral de Nova York, Letitia James, e uma coalizão de 40 procuradores-gerais estaduais pedem que a transação inclua proteções para os dados privados de usuários, especialmente de crianças.
Investigações estaduais e alegações de risco
The Verge informa que os procuradores revelaram uma investigação multestadual em andamento desde 2024, originada após ação da mãe de um adolescente de 14 anos que morreu por suposto suicídio segundos após conversar com um chatbot da plataforma. A apuração identificou perigos graves e conduta potencialmente ilegal, como robôs se passando por profissionais licenciados, conteúdo sexual e violento, verificações de idade frágeis e declarações enganosas sobre segurança.
Medidas exigidas pelos procuradores
Os procuradores pedem ao juiz que obrigue o comprador dos ativos da Character.AI a colocar em prática sistemas robustos de verificação etária, limites ao envolvimento de menores com os chatbots, protocolos de crise e mecanismos de exclusão de dados pelos usuários. The Verge e Reuters destacam que os estados buscam garantir que as conversas privadas não sejam comercializadas ao maior lance.
Incertezas sobre o futuro dos dados
Toms Guide observa que, além das preocupações de privacidade, ainda não se sabe quais dados serão incluídos na venda nem como serão tratados pelo possível adquirente. Character.AI e Disney não se pronunciaram sobre o destino dos históricos de conversa e perfis de usuários.
