A Anthropic propôs ao governador da Califórnia, Gavin Newsom, que autoridades governamentais possam solicitar ordens judiciais para bloquear modelos de inteligência artificial considerados de risco grave ao público, conforme carta de 15 de outubro enviada à diretoria do estado.
Intervenções direcionadas em vez de desligamento total
A empresa rejeitou a exigência de “botões de desligamento” capazes de desativar modelos inteiros de IA, defendendo intervenções mais específicas, como a desativação de agentes de IA problemáticos ou o bloqueio do acesso de clientes específicos a modelos.
A carta foi encaminhada após o governador reunir um painel de especialistas para elaborar propostas de segurança em IA.
Risco nacional já afetou a empresa
A Anthropic já enfrentou restrições do governo federal: em junho, a administração Trump ordenou a limitação do acesso estrangeiro aos modelos Mythos 5 e Fable 5, embora o Departamento de Comércio posteriormente suspendeu a decisão.
Legislação em discussão no Congresso
Em julho, deputados propuseram a “Lei do Botão de Desligamento da IA”, quepermitiria a desativação de modelos que ameacem vidas ou a economia. A proposta avançou lentamente, sem aprovação até o recesso pré-eleitoral do Congresso.
O que ainda não foi divulgado
- Reação oficial do gabinete de Gavin Newsom
- Detalhes sobre possíveis modelos futuros a serem bloqueados
- Posição da Anthropic sobre regulamentações federais específicas
