Tom Siegel, ex‑chefe de confiança e segurança do Google e agora diretor executivo do Youth AI Safety Institute da Common Sense Media, disse que a inteligência artificial pode causar danos graves a crianças, comparando o risco ao que as redes sociais já fizeram. Ele defende testes semelhantes aos de colisão de automóveis antes que menores dependam da tecnologia. Pesquisa da Common Sense Media mostra que 86% das crianças de 9 a 17 anos já usaram IA e quase um quarto delas o faz diariamente.
Riscos apontados pelo ex‑executivo
Siegel explicou que os perigos vão além da dependência, mencionando cenários de suicídio, psicose e o que pesquisadores chamam de cognitive offloading – quando a pessoa passa a confiar na IA para fazer tarefas que exigiriam pensamento independente. Lembrou que trabalhou no Google de 2004 a 2019, onde criou o TrustLab, empresa que desenvolvia ferramentas para identificar ameaças de segurança online, e que deixou o cargo de CEO do TrustLab neste mês para assumir o novo papel na Common Sense Media. As declarações foram dadas em entrevista à Reuters e foram reproduzidas pelo Mint, pelo The Business Standard e pelo The Straits Times.
Propostas de padrões e 'teste de colisão' para IA infantil
Ele pediu que as empresas de IA reduzam o ritmo de desenvolvimento, argumentando que o setor repete os erros da era das redes sociais, quando plataformas foram acusadas de prejudicar jovens e enfrentaram milhares de processos. Propôs medidas imediatas: sistemas mais rigorosos de verificação de idade para impedir que menores acessem chatbots; e que o Google permita que responsáveis desativem recursos como AI Overviews e AI Mode, da mesma forma que já existe para bloquear conteúdo sexualmente explícito. Também anunciou que se tornou o primeiro diretor executivo do Youth AI Safety Institute, criado em maio pela Common Sense Media com apoio da Anthropic e da fundação que controla a OpenAI, cujo objetivo é criar padrões que responsabilizem as companhias de IA, trabalhando junto a elas e a organizações independentes.
Posição das empresas de IA
O Google respondeu que os responsáveis podem bloquear totalmente o acesso das crianças ao seu mecanismo de busca e ressaltou que os recursos de IA da busca são úteis para aprendizado, exploração e compreensão do mundo. A OpenAI informou que usa sinais de conta e comportamento, além da idade declarada, para identificar usuários menores de idade, dizendo que testa e aprimora continuamente esses sistemas, embora reconheça que nenhum método é infalível. Nenhuma das empresas comentou especificamente sobre as propostas de teste de colisão, mas ambas defenderam suas salvaguardas existentes.
