Funcionários de Anthropic, OpenAI e Google manifestaram preoculação sobre risco de extinção da humanidade por avanço descontrolado de IA, sem soluções de alinhamento.
Declarações dos empregados
O blog Don’t Worry About the Vase publicou uma colagem de citações de trabalhadores das três maiores laboratórios de inteligência artificial do mundo. Eles alertam que o ritmo atual de desenvolvimento não é acompanhado por avanços no problema de alinhamento, aumentando o risco de um desfecho catastrófico para a humanidade.
Alguns desses funcionários sugerem que a corrida pela superinteligência deveria ser reavaliada, para permitir que a sociedade acompanhe o progresso tecnológico sem correr os riscos de perder o controle sobre sistemas que ultrapassam a capacidade humana.
Advertência de Jacob Coxon e reação em cadena
Segundo o site LessWrong, Jacob Coxon, pesquisador anterior da Anthropic, lançou um alerta sobre risco de extinção e provocou o que descreve como uma cascata de preferências entre lideranças de grandes laboratórios de IA. Segundo o site, CEOs e empregados dessas companhias frequentemente afirmam que pretendem construir superinteligência em poucos anos, com a criação de sistemas capazes de superar a capacidade humana.
Em meio a essas declarações, outros engenheiros expressaram preocupação sobre a falta de uma agenda clara para alinhar os interesses humanos com os sistemas emergentes. Alguns defenderam uma pausa estratégica no desenvolvimento, priorizando a segurança e o aprimoramento humano em vez de avançar rapidamente em direço a sistemas de inteligência artificial sem limites.
O que ainda não foi divulgado
- Número exato de engenheiros da Anthropic que compartilham essa visão.
- Detalhes das propostas específicas de redução de ritmo ou de medidas de segurança sugeridas pelos funcionários.
- Qualquer cronograma preciso mencionado por Jacob Coxon ou pelas lideranças das empresas para a chegada da superinteligência.
- Informações sobre possíveis respostas regulatórias ou institucionais diante desses alertas.
