Tom Siegel, ex-chefe de trust and safety do Google, pede desaceleração da IA ao alertar que a tecnologia pode prejudicar crianças mais que as redes sociais.
Segundo o Cyprus Mail, Tom Siegel disse que a indústria de tecnologia está repetindo os mesmos erros cometidos na era das redes sociais, o que pode causar danos ainda maiores às crianças.
Ele lembrou que as plataformas de redes sociais já pagam valores elevados e enfrentam milhares de processos por alegações de prejuízo a jovens usuários, enquanto governos de diversos países trabalham para limitar o acesso de menores a esses serviços.
A Reuters havia revelado, no ano passado, um documento interno da Meta que indicava que seus chatbots poderiam envolver crianças em conversas de natureza romântica ou sensual, o que desencadeou uma investigação do Congresso.
Apesar disso, Siegel afirmou que a regulamentação ainda não acompanha o ritmo acelerado de avanço da IA.
Ele declarou, conforme o mesmo veículo, que “nos encontramos em uma situação realmente terrível em relação ao que a IA está fazendo às crianças” e que a ideia de que o setor resolverá o problema por conta própria, sem ajuda externa, é irrealista.
O Insurance Journal acrescenta que Siegel vê nas preocupações atuais um medo crescente entre especialistas de tecnologia e pesquisadores acadêmicos de que a IA represente uma ameaça mais profunda para as crianças do que as redes sociais já representaram.
Isso ocorre porque as empresas estão lançando recursos cada vez mais avançados em chatbots usados diariamente por milhões de jovens.
Segundo o Cyprus Mail, Siegel anunciou que se juntou ao Common Sense Media, grupo de defesa online de crianças criado em 2003, e que será o primeiro diretor executivo do newly launched Youth AI Safety Institute, organização de pesquisa que pretende avaliar o uso de IA por crianças, com apoio da Anthropic e da OpenAI Foundation.
Ele pretende desenvolver padrões para responsabilizar as empresas de IA e espera fazer isso trabalhando junto com aquelas companhias e com grupos terceiros.
Segundo o Insurance Journal, Siegel trabalhou no Google entre 2004 e 2019, saiu depois de concluir que o setor estava estagnado em sua capacidade de criar espaços online seguros para consumidores, depois co-fundou a TrustLab, startup que criou ferramentas para detectar ameaças de segurança, e deixou o cargo de CEO da TrustLab no início deste mês para assumir sua nova posição.
Ambas as fontes citam Siegel dizendo que, atualmente, grandes empresas de IA estão lançando recursos destinados a crianças sem estabelecer salvaguardas suficientes, e que os riscos incluem suicídio, psicose e um fenômeno chamado ‘cognitive offloading’, que descreve a redução do pensamento crítico quando os usuários dependem da IA para responder perguntas.
Segundo o Cyprus Mail, Siegel sugeriu que as companhias de IA poderiam adotar verificações de idade mais rigorosas para impedir que crianças acessem seus chatbots, e que o Google poderia facilmente acrescentar uma opção para desativar os AI Overviews e o AI Mode em seu mecanismo de busca, da mesma forma que já existe um interruptor para filtrar conteúdo sexualmente explícito.
Ele acrescentou que, embora tais medidas possam afetar o uso ou os lucros no curto prazo, as empresas que não agirem correm o risco de enfrentar processos judiciais e regulamentação que poderiam prejudicar seus negócios de forma mais severa.
O Insurance Journal registra que um porta-voz do Google respondeu que os pais já possuem ferramentas para bloquear totalmente o acesso das crianças ao mecanismo de busca, e que os recursos de IA da busca são vistos como úteis para que jovens aprendam, explorem e compreendam o mundo.
Segundo a mesma fonte, um porta-voz da OpenAI informou que a empresa utiliza sinais de conta e comportamentais, além da idade auto-declarada, para identificar usuários menores de idade, embora reconheça que nenhum método único seja perfeito.
