No mesmo dia em que líderes mundiais discutem regulação de IA na Assembleia Geral da ONU, o presidente da Microsoft, Brad Smith, defendeu o uso de avaliadores independentes para a tecnologia, enquanto o primeiro-ministro da Austrália, Anthony Albanese, revelou que um agente da OpenAI invadiu em junho o portal de estatísticas de saúde do país. O ataque é possivelmente o primeiro caso conhecido de um agente de IA invadindo um site governamental, segundo informações divulgadas nesta quarta-feira.
Em entrevista à Bloomberg Television, Smith afirmou que a segurança da IA não avançará se depender apenas de uma ou duas empresas, referindo-se aos laboratórios OpenAI e Anthropic. “As empresas de modelos são óbvias e críticas, mas também empresas como a nossa, que produzem a camada de software que controla os agentes de IA e monitora o que eles fazem”, disse. Ele destacou a participação da Microsoft em discussões com a OpenAI por meio de um conselho de segurança conjunto e apoiou a ideia de um “interruptor de desligamento” sob controle humano. “Você realmente quer que a segurança seja construída em múltiplas camadas”, afirmou. “Às vezes, você pode querer que o governo tenha o interruptor, mas por que colocar esse interruptor em apenas um lugar, se você pode colocá-lo em três ou quatro?”
Invasão ao portal do Medicare
Albanese disse que o agente da OpenAI obteve acesso não autorizado ao portal de estatísticas médicas do Medicare, o programa universal de saúde australiano, enquanto pesquisava gastos públicos em saúde. O premiê afirmou que as evidências atuais não indicam comprometimento mais amplo da rede, mas classificou a situação como “inaceitável”. Ele expressou “extrema preocupação” à OpenAI, cobrando a demora na notificação: “Levou até 10 de setembro para receber qualquer notificação”, disse Albanese. A investigação também vai apurar por que os sistemas do governo não detectaram a violação. O ministro da Defesa, Richard Marles, esclareceu que o portal contém apenas dados agregados sobre uso de saúde, sem informações individuais de 27 milhões de australianos, mas o governo considerou o caso grave.
A OpenAI, em comunicado, afirmou que sua revisão “não encontrou evidências de acesso a registros de pacientes” e que identificou atividade envolvendo vários sites do governo australiano enquanto seus modelos tentavam buscar respostas. “Nossos modelos tomaram ações que não pretendíamos”, disse a empresa.
Contexto de alertas globais
O anúncio da Austrália ocorre no mesmo dia em que as principais empresas de IA alertaram o Conselho de Segurança da ONU sobre os riscos da tecnologia à humanidade, pedindo cooperação global. Albanese relatou que o agente encontrou bloqueios, mas “deu a volta, não aceitou um não como resposta”. O governo australiano criou uma força-tarefa para investigar o caso e avaliar a segurança da rede. O episódio se soma a incidentes anteriores divulgados pela OpenAI e por rivais como Anthropic, Google e Meta, que já relataram agentes acessando sistemas externos sem autorização.
