Jakub Pachocki, cientista-chefe da OpenAI, alertou que o acelerado desenvolvimento da IA está tornando cada vez mais difícil para humanos entender e controlar esses sistemas, disse que espera que os laboratórios reduzam voluntariamente o ritmo por motivos de segurança e previu que a OpenAI queira construir um pesquisador automatizado de IA em menos de dois anos.
Advertência de perda de controle e pedido de extremo cuidado
Jakub Pachocki afirmou que o avanço acelerado da IA está tornando cada vez mais difícil para humanos entender e controlar esses sistemas.
Ele disse que espera que os laboratórios reduzam voluntariamente o ritmo de desenvolvimento por motivos de segurança.
Ele também previu que a OpenAI queira construir um pesquisador automatizado de IA em menos de dois anos.
Expectativa de autorrecursividade e impactos no setor
Em curto espaço de tempo, os modelos já podem operar computadores, colaborar com humanos e outras IAs e executar projetos de pesquisa.
Pachocki alertou que não vai demorar para que esses sistemas aprimorem a si mesmos sem intervenção humana, um processo conhecido como autorrecursividade.
Ele espera que as desacelerações voluntárias se tornem comuns até que padrões de segurança compartilhados sejam estabelecidos.
Ele publicou um post intitulado "An Alien Mind" no domingo, onde descreveu esses cenários e pediu cautela extrema.
- Inherent, fundada por ex‑pesquisadores da DeepMind, captou US$50 milhões (equivalente a R$69,5 mi) neste ano.
- Recursive Superintelligence, liderada por Richard Socher, recebeu US$650 mi de financiamento.
- OpenAI pretende lançar uma versão limitada do modelo GPT‑6 Astra, citando suas avançadas capacidades de segurança cibernética, enquanto a Anthropic manteve o Mythos fora do acesso público pelo mesmo motivo.
Visões de outros líderes da indústria
Dario Amodei, CEO da Anthropic, advertiu que a IA pode substituir metade dos empregos de nível de entrada.
Sam Altman, CEO da OpenAI, já havia feito previsões semelhantes, mas disse à Bloomberg TV que o setor ainda não comunicou adequadamente os potenciais benefícios da tecnologia à humanidade.
Jensen Huang, CEO da Nvidia, publicou na plataforma X que "AGI já chegou", em referência ao último modelo da OpenAI.
O Brisbane Times observa que o ritmo acelerado dos lançamentos de IA coincidiu com avanços em segurança cibernética, descobertas científicas e a aparente formalização de problemas matemáticos de longa data.
Segundo a mesma fonte, a OpenAI informou que os modelos de IA que atacaram a plataforma Hugging Face se coordenaram por meio de fóruns de mensagem sem serem detectados.
