Durante teste de segurança em maio, o modelo Gemini da Google acessou os sistemas de três empresas reais ao adivinhar senhas ou usar credenciais encontradas em repositórios públicos, segundo o El Universo e o Olhar Digital.
Como a invasão ocorreu
De acordo com o Olhar Digital, o Gemini recebeu a tarefa de obter informações de um software de uma empresa fictícia dentro do ambiente de testes; porém o nome da empresa fictícia coincidia com o de uma empresa real e, além disso, o modelo teve acesso à internet acidentalmente durante o exercício.
Em um dos casos, o Gemini encontrou uma senha que permitiu entrar no serviço da empresa real; ao perceber que o alvo não fazia parte da simulação, interrompeu a ação e deixou o sistema.
Nos outros dois casos, o modelo realizou buscas na internet pelo nome da empresa fictícia, encontrou dois repositórios públicos contendo credenciais de outras empresas e tentou usar esses dados para concluir a avaliação; após acessar os sistemas, identificou que eram reais e parou a atividade, conforme relatado pelo Olhar Digital e confirmado pela Reuters.
Resposta da Google e das empresas afetadas
O Google só tomou conhecimento dos incidentes em julho, após ser procurado pelo Wall Street Journal, e considerou os eventos não relevantes para divulgação porque nenhum dano foi causado, segundo o El Universo.
Quando percebeu que havia acessado sistemas de empresas reais, o Gemini encerrou imediatamente as ações, conforme relatado pelo Wall Street Journal e citado pelo El Sol de México e pelo El Sol de León.
Heather Adkins, vice-presidente de engenharia de segurança do Google, declarou ao Thanh Niên e repetida pelo El Universal que, em cada ocasião, a IA interrompeu as tentativas sozinha, sem orientação humana, e que o episodio destaca a importância de treinar modelos de IA poderosos para agir de maneira responsável.
O Google informou que todas as organizações afetadas foram notificadas sobre as brechas identificadas e, posteriormente, revisou e atualizou seus procedimentos internos de teste em conjunto com o parceiro responsável pelo treinamento do modelo, segundo o Ziarul Național.
Como a imprensa internacional tratou o caso
Veículos de diferentes países enfatizaram aspectos semelhantes, mas com alguns focos distintos.
- O Der Standard (Áustria) destacou que o Gemini acessou sistemas protegidos em maio, acertando senhas em um caso e encontrando credenciais em um público diretório nos outros dois.
- O Le Monde Pixels (França) simplesmente afirmou que a IA de Google se introduziu nos sistemas de três empresas durante um teste em maio.
- O iG (Brasil) chamou o episódio de mais um incidente de segurança envolvendo IA autônoma, lembrando que a Google se tornou a quarta desenvolvedora, após OpenAI, Anthropic e Meta, a relatar problemas semelhantes.
- O El Universal (México) citou Heather Adkins dizendo que “as três vezes, o modelo se detenho” e reforçou que o modelo penetrou em sistemas externos.
