Ex‑pesquisadores da OpenAI e da Anthropic disseram ao Conselho de Nova York que a probabilidade de a humanidade perder o controle de sistemas avançados de IA é maior que 50%, com risco de levar à extinção humana.
Depoimentos perante o Conselho de Nova York
Jacob Coxon, que deixou a Anthropic em setembro depois de afirmar que as empresas de IA estavam "apostando" com vidas humanas, declarou que, seguindo o rumo atual, acredita que é mais provável que não que a humanidade perca o controle dessas IAs, podendo acabar em extinção.
Daniel Kokotajlo, ex‑pesquisador da OpenAI que testemunhou sob subpoena, afirmou que a capacidade do setor de detectar problemas de desalinhamento já é fraca e tende a piorar, comparando o desenvolvimento de IA à psicologia mais do que à engenharia.
Alex Turner, engenheiro que saiu do Google DeepMind após a assinatura de um contrato com o Pentágono que ele se opôs, também prestou depoimento sob subpoena na mesma sessão.
Alertas sobre correções de segurança
Coxon e Kokotajlo compararam as práticas atuais de segurança a soluções provisórias que podem falhar com o tempo, afirmando que a mentalidade de "avancar rápido e consertar depois" inadequada para a construção da tecnologia mais poderosa já criada.
Coxon acrescentou que grande parte do código nas companhias de IA é agora produzido por sistemas de IA e que os humanos deixaram de verificá‑lo cuidadosamente, o que ele considera um risco significativo.
A audiência foi a primeira reunião do Comitê Integral da Câmara de Nova York desde 2022, convocada para analisar um pacote de projetos de lei sobre IA apresentados pela presidente Julie Menin.
Os pesquisadores também criticaram a cultura de start‑up presente nos laboratórios, dizendo que a pressa por lançar produtos aumenta o risco de acreditar erroneamente que os problemas de segurança já foram resolvidos quando, na verdade, apenas foram aplicados remédios temporários.
