OpenAI lança o ChatGPT for Teens, versão do chatbot voltada exclusivamente para usuários de 13 a 17 anos. O lançamento ocorre após processos judiciais e crescente pressão regulatória sobre impactos em menores.
Como funciona
- Segundo a OpenAI, os parâmetros modificados são aplicados automaticamente a quem se registra com idade entre 13 e 17 anos ou é detectado como menor por padrões de uso ou idade da conta.
- As salvaguardas já existentes para contas de menores incluem restrições ao lidar com conteúdo de auto‑mutilação, violência, transtornos alimentares e sexualidade gráfica.
- O programa oferece lembretes mais frequentes de pausa, blackout quiet hours e Study Mode, que responde com perguntas orientadoras em vez de respostas diretas.
- O chatbot é programado para não sugerir que possui sentimentos pessoais ou consciência própria.
- Algumas modalidades, como o modo de voz, estão desativadas para esse grupo etário.
- Os pais podem vincular suas contas às dos adolescentes e receber alertas quando houver discussão de situações de alto risco, como auto‑mutilação ou suicídio.
- Os alertas são revisados por moderadores humanos e os detalhes específicos dos logs de conversa são removidos para proteger a privacidade.
Contexto legal e regulatório
- Segundo o Bangkok Post, o lançamento acontece enquanto OpenAI enfrenta processos por morte indevida, incluindo ação dos pais de Adam Raine, adolescente de 16 anos da Califórnia que supostamente seguiu métodos sugeridos pelo ChatGPT para se suicidar.
- A Comissão Federal de Comércio (FTC) dos EUA abriu inquérito sobre chatbots de IA que funcionam como companheiros digitais, focando em riscos a crianças e adolescentes.
- O Congresso dos EUA apresentou diversos projetos de lei para regular chatbots.
- A Califórnia exige que assistentes que atuam como companheiros ou confidentes tenham salvaguardas em vigor.
- Outras empresas de IA, como a Anthropic, restringiram o uso de seus modelos apenas a adultos após críticas semelhantes.
