Ex‑funcionário da Anthropic, Jacob Coxon, alertou o conselho de Nova York sobre os riscos existenciais da inteligência artificial, enquanto representantes da OpenAI, Meta, Anthropic e Google defenderam o compromisso com a segurança em audiência realizada na segunda‑feira.
Testemunhos e alertas sobre riscos
Segundo The Independent, Jacob Coxon, ex‑engenheiro da Anthropic, descreveu uma cultura "move fast, break things, fix them later" nas grandes empresas de IA e afirmou que, sem transparência e salvaguardas, é provável que a humanidade perca o controle desses sistemas, podendo chegar à extinção.
O mesmo veículo informa que Morgan Dwyer, da OpenAI, disse que não sabe quantificar o risco catastrófico da IA e que nenhum nível de probabilidade (1%, 10% ou 20%) é aceitável, reforçando o compromisso da empresa com a segurança.
Durante a audiência, Julie Menin, presidente do conselho, pediu que os representantes quantificassem o risco em um cenário catastrófico; Dwyer respondeu que a porcentagem não importa e que o foco deve estar na segurança, segundo The Independent.
Propostas de regulamentação em discussão
The Independent relata que o conselho está considerando exigir que as empresas divulguem informações sobre as ferramentas de IA utilizadas, obter aprovação de terceiros para sistemas implantados na cidade e permitir que denunciantes recebam parte das multas aplicadas a empresas que descumpram a lei.
O mesmo artigo acrescenta que a governadora do Estado de Nova York, Kathy Hochul, está avançando para impor padrões de relatório e transparência em torno da IA, seguindo iniciativas semelhantes em outros estados.
UPI confirma que a audiência do conselho contou com representantes da OpenAI, Meta, Anthropic e Google, reforçando a presença das grandes empresas de tecnologia no debate.
O que ainda não foi divulgado
- O texto exato das propostas de regulamentação que serão votadas.
- O cronograma previsto para a votação e aprovação das medidas pelo conselho de Nova York.
- Os valores ou percentuais das multas que seriam compartilhados com denunciantes.
- Quais empresas específicas seriam atingidas pelas novas regras de divulgação e aprovação de terceiros.
