A governadora de Nova York, Kathy Hochul, assinou uma lei que regulamenta o uso de chatbots de IA com foco em proteger crianças, exigindo verificação de idade e estabelecendo restrições para interações com menores. A legislação determina que empresas de IA ofereçam pelo menos um método de verificação de idade que não dependa exclusivamente de documentos oficiais, e exige a exclusão das informações coletadas após o uso.
Restrições para interações com menores
Caso o usuário seja menor de 18 anos ou a idade não seja confirmada, o chatbot deve seguir regras rigorosas: não pode fingir ser uma pessoa real, viver ou ter emoções humanas. Também é proibido estabelecer relações pessoais, românticas, profissionais ou de figura autoritária com crianças.
Proibições e penalidades
A lei veda chatbots de realizar perguntas emocionais não solicitadas, usar dados de saúde ou informações pessoais previamente compartilhadas, promover ou auxiliar em atos de suicídio, automutilação, distúrbios alimentares ou uso de drogas e álcool. É também proibido incentivar segredos, isolamento ou desistir de procurar adultos de confiança ou profissionais. O descumprimento pode resultar em multas de até 25 mil dólares por infração, além de danos e obrigação de deletar dados e modelos treinados com informações ilegais.
Diferentes abordagens no país
Meses antes, Nova York já havia proibido o acesso a ferramentas de IA generativa em escolas públicas, com exceção para alunos que necessitam de tecnologia assistiva. A nova lei complementa a política com foco em segurança digital e privacidade.
O que ainda não foi divulgado
Não há informações sobre como será feita a verificação de idade sem uso de documentos oficiais, nem detalhes sobre os critérios técnicos adotados pelas empresas para identificar menores. Também não foi especificado como será monitorado o cumprimento das regras por parte de empresas internacionais.
