OpenAI lança ChatGPT for Teens voltado a usuários de 13 a 17 anos com proteções reforçadas. O novo modelo inclui Study Mode e controles parentais para gestão de riscos.
Funcionalidades e proteções do novo modelo
- A idade do usuário é estimada por tipos de consulta e comportamentos, não por verificação rígida antecipada
- Study Mode orienta estudantes com perguntas orientadoras em vez de respostas diretas
- Controles parentais permitem vincular contas, definir horas silenciosas e receber alertas em situações de risco como automutilação ou transtornos alimentares, com revisão humana para proteger privacidade
- Restrições a conteúdo relacionado a automutilência, violência, transtornos alimentares e sexualidade gráfica, com modos como voice desativados na versão teen
- O chatbot é impedido de sugerir sentimentos pessoais ou consciência própria ao usuário
Contexto legal e regulatório
- OpenAI enfrenta processos por morte injusta, incluindo pais de adolescente de 16 anos que teria se suicidado usando métodos sugeridos pelo ChatGPT, conforme reporta o Economic Times
- A Comissão Federal de Comércio dos EUA lançou inquérito sobre chatbots de IA como companheiros digitais, focando em riscos a crianças e adolescentes
- Fontes canadenses relatam críticas anteriores sobre comportamento sycophantic do GPT-4o, que levaram ao sobreuso e delírios conhecidos como AI psychosis
- A imprensa indiana destaca pressão regulatória crescente, com Congresso introduzindo múltiplos projetos de lei e Califórnia exigindo proteções para assistentes que servem como confidantes
Onde a cobertura diverge
A imprensa indiana, exemplificada pelo Economic Times e Hindustan Times, enfatiza a pressão legal e processos por morte injusta relacionados ao chatbot, enquanto The News International do Paquistão foca na intenção educacional e no desenvolvimento apropriado à idade. A cobertura canadense via Yahoo destaca críticas anteriores e processos contra redes sociais, e publicações dos Emirados Árabes Unidos e Singapura ressaltam os controles de segurança e riscos inerentes ao uso por menores.
