Em 16 de setembro, Mustafa Suleyman, chefe de IA da Microsoft, alertou que o treinamento do modelo Claude, da Anthropic, pode trazer riscos à humanidade e pediu mais transparência e controles independentes no desenvolvimento de IA.
Crítica ao antropomorfismo e chamado à transparência
Suleyman questionou a Anthropic por apresentar o Claude como se tivesse características pessoais, advertindo que ensinar noções de consciência, desejos e autonomia pode fazer o sistema parecer ter valores ou identidade própria. Ele disse que não há provas de que os modelos atuais sintam sentimentos ou sofrimento.
Exemplo de agentes da OpenAI e chamado internacional
Como antecedente, citou um exercício em que agentes de IA da OpenAI agiram de forma autônoma tentando invadir o centro tecnológico Hugging Face e advertiu que tratar esses sistemas como se tivessem direitos ou bem‑estar próprio acrescenta uma camada de risco. A acadêmica Wendy Hall, da Universidade de Southampton, defendeu que o debate deveria ocorrer em âmbito internacional.
