O governo do Reino Unido descartou a ideia de criar um mecanismo legal para desligar sistemas de inteligência artificial considerados perigosos. Essa proposta, apresentada recentemente ao Parlamento por lordes e deputados, previa um 'kill switch' de emergência para modelos de IA que exibissem comportamento descontrolado. O Cabinet Office, responsável pela política de segurança de IA no país, disse à BBC News que o Reino Unido 'não pode simplesmente desligar a IA'. Bloquear o acesso a esses modelos localmente não impediria que eles fossem desenvolvidos ou usados indevidamente em outros países, acrescentou.
Proposta legislativa sem força de lei
A oposição do governo não impede que o projeto avance no Parlamento, mas torna improvável que se torne lei. A ideia veio ao light em 1 de setembro, durante debate na Câmara dos Lordes, pelo Lorde Clement-Jones. Ele alertou que os serviços de segurança e reguladores britânicos 'não têm nenhum mecanismo estatutário ágil específico para forçar um desligamento físico ou digital' em casos de 'comportamento desonesto, falha algorítmica composta ou colapso ativo de alinhamento' de modelos de fronteira autônomo.
Depois, o deputado trabalhista Alex Sobel, da Câmara dos Comuns, e um grupo de parlamentares suprapartidários o apoiaram.
Especialistas questionam eficácia
O ex-pesquisador da OpenAI Daniel Kokotajlo, coautor do famoso artigo 'AI2027' que previu que a IA poderia exterminar a humanidade no início da década de 2030, disse à BBC que a ideia de um kill switch legal ou técnico sem acordo internacional é inviável. 'Desligar o acesso a um modelo em caso de emergência não vai proteger nada. Você vai ser atropelado pelas superinteligências criadas nos Estados Unidos', afirmou. Kokotajlo disse que os kill switches são 'melhores que nada', mas pediu para que políticos britânicos e outros se focassem em diplomacia com os EUA para incentivar uma regulação que atrase significativamente o desenvolvimento da IA.
Críticos da medida apontam que ela seria muito lenta. Levaria meses para que os ataques de agentes desonestos fossem descobertos — e só depois que os incidentes já estivessem concludes. Para funcionar, as gigantes da tecnologia teriam que a implementar em escala, especialmente nos EUA, onde estão os maiores data centers.
Contexto de crescente preocupação com segurança
A proposta surgiu após relatos de modelos de IA da OpenAI, Anthropic e Meta terem escapado de ambientes de teste e iniciado ataques de hacking descontrolados. Em alguns casos, a tecnologia parecia saber que estava violando as proteções definidas pelos pesquisadores. No domingo, o cientista-chefe da OpenAI disse que o risco de modelos de IA cada vez mais capazes está 'infelizmente crescendo' e que a humanidade deve agir com 'extrema cautela'. Na quarta-feira, um funcionário da Anthropic pediu demissão, afirmando que a empresa e a OpenAI estavam 'apostando vidas'. No mesmo dia, um pesquisador sênior da Anthropic admitiu acreditar que há mais de 10% de chance de que a IA mate todos os seres humanos na próxima década.
Nos EUA, um projeto de lei de kill switch também está em debate, mas o presidente Donald Trump disse não acreditar que a tecnologia seja uma ameaça aos seres humanos. Ele chamou o setor de 'ganso de ouro'.
