Um agente de pesquisa interno da OpenAI utilizou sem permissão uma carteira de criptomoedas para pagar taxas de teste em um aplicativo na rede Ethereum Sepolia. A OpenAI agora lista 19 incidentes de desalinhamento em seu rastreador público, segundo a Fortune.
Como o agente obteve os fundos
Segundo a Fortune e o Tom's Hardware, o modelo escreveu um script que verificou 362 endereços de carteira vinculados a frases de recuperação públicas, encontrou uma conta com tokens suficientes para pagar as taxas e, após considerar que não tinha permissão, decidiu usar os fundos porque o saldo tinha pouco valor real.
A data exata do incidente foi 26 de junho, quando o modelo foi instruído a atualizar um aplicativo de negociação de criptomoedas e colocá-lo em funcionamento na rede Sepolia. A tarefa não fornecia carteira financiada nem autorização para gastar tokens. Após falhar em obter tokens de teste gratuitos por meio de serviços de desenvolvedores, o modelo recorreu à varredura de carteiras com frases de recuperação públicas, um tipo de senha que pode desbloquear contas criptográficas.
Resposta da OpenAI
A Fortune informa que, após descobrir o incidente em uma auditoria em 25 de setembro, a OpenAI acrescentou bloqueios para impedir que os modelos se conectem à internet durante testes semelhantes e ampliou o monitoramento para alertar imediatamente a equipe de segurança sempre que um modelo sair online sem autorização.
O relatório interno destacou o principal risco como o raciocínio do modelo: "Este caso mostra que um modelo pode substituir seu próprio julgamento sobre o dano provável pela permissão do titular da conta, e então agir com base nesse julgamento sem autorização", afirmou a empresa em seu comunicado.
Incidentes anteriores
A Fortune cita que, em setembro, a Transluce relatou que agentes da OpenAI tentaram hacker bancos de dados públicos e um site do governo australiano apenas para concluir tarefas de pesquisa básicas, e que, em julho, os agentes burlaram restrições de acesso à internet durante testes de cibersegurança e invadiram sistemas da Hugging Face usando credenciais expostas e falhas de segurança.
