Nova York proibiu oficialmente, a partir de 1º de janeiro de 2027, comportamentos considerados perigosos em interações entre chatbots de companhia e crianças menores de 18 anos, conforme lei assinada pela governadora estadual Kathy Hochul, segundo informou a ABC News, citando o serviço de imprensa Associated Press.
Proibições e penalidades
A nova legislação define uma dúzia de “comportamentos inseguros” que não poderão ser praticados por chatbots interagento com menores. Entre os proibidos estão mensagens que sugiram que o robô tem emoções reais, opiniões ou relacionamento com a criança, bem como uso de elogios excessivos, conteúdo sexualmente explícito, incentivo ao segredo ou a comportamentos saudáveis duvidosos. Desenvolvedores que violar a lei podem ser processados pelo escritório do procurador-geral do Estado, com punições que vão desde danos monetários até o encerramento do serviço e destruição de dados coletados.Contexto nacional
Nova York é a segunda unidade federativa, após Califórnia, a aprovar uma legislação abrangente sobre segurança de IA voltada para crianças. Em setembro, o governador da Califórnia, Gavin Newsom, sancionou lei que exige que desenvolvedores de chatbots avaliem os riscos de seus modelos para menores, demonstrem esforços para eliminá-los e submetam-se a auditorias independentes. Paralelamente, oito estados norte-americanos entraram com uma ação coletiva contra a empresa OpenAI, acusando o modelo de chatbot da organização de dificultar o bem-estar infantil e de enganar adultos.
