Em 5 de outubro de 2026, representantes da OpenAI, Anthropic, Meta e Google compareceram perante o Conselho Municipal de Nova York para defender os sistemas de segurança de seus modelos de inteligência artificial, segundo informou o ABC Color. Durante a audiência a presidenta do órgão, Julie Menin, pediu sob juramento que as empresas se comprometessem a não lançar modelos que falhem em testes internos ou avaliações de terceiros não selecionados pelas próprias companhias.
Contexto da audiência
Segundo o ABC Color, a reunião ocorreu após aumento das preocupações de legisladores e especialistas sobre os possíveis riscos dos avanços rápidos da inteligência artificial. O Conselho de Nova York tem realizado audiências para entender como as grandes empresas de IA asseguram que seus modelos não provoquem danos antes de serem disponibilizados ao público.
Posicionamento da OpenAI
O representante da OpenAI, Morgan Dwyer, afirmou que a empresa não lançará modelos que considere inseguros. Ele explicou que os processos de avaliação contam com a participação de terceiros e com a colaboração dos governos dos Estados Unidos e do Reino Unido. Dwyer acrescentou que a OpenAI já atrasou lançamentos anteriormente para reforçar salvaguardas e repetirá essa ação se for necessário.
Visão da Anthropic
O representante da Anthropic, Logan Graham, disse que a companhia trabalha há quatro anos na quantificação de riscos, incluindo aspectos de biosegurança e cibersegurança. Ele reconheceu que o processo é intrincado e cheio de matices, mas destacou que a Anthropic publica relatórios que estimam a probabilidade de diferentes tipos de ameaças se materializarem. Graham considerou as avaliações independentes um dos componentes mais importantes do procedimento de segurança.
Declarações da Meta e do Google
O representante da Meta, Shane Cahill, descreveu o sistema de segurança da empresa como sendo de várias camadas. Quando questionado sobre a possibilidade de quantificar os riscos, Cahill respondeu que não queria ser impreciso. Já a representante do Google, Alice Friend, afirmou que a companhia utiliza marcos específicos para detectar capacidades perigosos, mas admitiu que prever riscos catastróficos futuros não é uma ciência exata.
O que ainda não foi divulgado
O ABC Color não informa se houve acordo concreto sobre prazos para novas avaliações terceiras ou se as empresas assumiram compromissos quantitativos sobre o número de testes a serem realizados. Tampouco foi mencionado qualquer mecanismo de penalização caso um modelo seja lançado apesar de falhar em uma avaliação independente.
A audiência terminou sem que os representantes assinassem um termo de compromisso vinculante, deixando aberta a questão de como o Conselho de Nova York poderá fiscalizar futuros lançamentos de modelos de IA.
