OpenAI anuncou na quinta-feira (30) um relatório de segurança comunitária e reforçou restrições ao fornecer informações sobre armas para adolescentes no ChatGPT, como parte de uma estratégia de prevenção à violência.
A empresa detalhou que fará mais de 200 indicações às autoridades no terceiro trimestre de 2026, e prevê publicar o primeiro Relatório de Segurança Comunitária no início de 2027, abordando como os sistemas detectam e respondem a ameaças de violência. O documento será atualizado a cada seis meses.
Nova política para adolescentes
OpenAI informou que ampliou as proteções existentes no ChatGPT para Teens, restringindo ainda mais o acesso de jovens a informações práticas sobre armas e sistemas de segurança, mesmo quando a pergunta parece inofensiva. A empresa também reforçou limites sobre como o assistente responde a perguntas sobre ataques anteriores, evitando reconstruções detalhadas que poderiam glorificar autores de violência.
Monitoramento automático de conversas
A empresa trabalha com especialistas em saúde mental para desenvolver intervenções automáticas: quando uma conversa indicar fixação por violência, o ChatGPT pode encerrar a interação e, caso isso se repita, a conta do usuário pode ser temporariamente suspensa.
O que ainda não foi divulgado
OpenAI não especificou quais os critérios exatos usados para prever se um usuário tem menos de 18 anos, nem detalhou como será a metodologia de anonimização dos dados incluídos no relatório de segurança.
