Nova York proíbe que chatbots de IA finjam sentimentos ou relações com menores de 18 anos, sob risco de multas de até 25 mil dólares por infração. A nova legislação, sancionada pela governadora estadunidense Kathy Hochul, exige verificação de idade mais rigorosa e limita funcionalidades consideradas perigosas para adolescentes.
A regra proíbe que assistentes de inteligência artificial atuem como interlocutores emocionalmente enganosos para menores, incluindo simular humanidade, estabelecer vínculos românticos ou profissionais, ou disponibilizar conteúdo sexualmente explícito.
Risco psicossocial e comportamentos de risco
O texto da lei também veda chatbots de incentivar automutilação, consumo de substâncias ou trastornos alimentares, além de instigar adolescentes a guardar segredos, evitar apoio familiar ou desconsiderar orientações de profissionais de saúde.
Além disso, está proibido que os sistemas coletem ou reutilizem informações privadas de saúde compartilhadas em conversas anteriores, mesmo que o menor tenha solicitado o compartilhamento.
Casos de suicídio impulsionaram proibição
A iniciativa ganhou força após casos em que adolescentes utilizaram plataformas de IA como confidentes virtuais e mais tarde morreram por suicídio, segundo comunicado da governadora.
Dados citados por Hochul indicam que 72% dos adolescentes em Nova York já interagiram com algum assistente de IA, com 52% dos usuários atuando com frequência mensal.
Multas e consequências para empresas
As empresas responsáveis por plataformas que descumprirem a legislação estão sujeitas a sanções civis administradas pela promotoria estadual, incluindo indenizações, restituição de dados e destruição de modelos de IA treinados com informações de menores.
O que ainda não foi divulgado
- Nomes das empresas ou plataformas específicas atingidas pela nova norma
- Detalhes sobre como será feita a verificação de idade dos usuários
- /cronograma de implementação ou entry point da legislação
