Segundo a PCMag, o CEO da Microsoft, Satya Nadella, defendeu a criação de um "freio de emergência" para IA, afirmando que todos os modelos devem ser tratados como comprometidos desde o início do desenvolvimento. O The Indian Express também informa que o plano de segurança de IA de Nadella propõe tratar os modelos como "comprometidos" desde o início.
Contexto da proposta
Segundo a PCMag, Nadella tem sido mais silencioso do que outros executivos de tecnologia nas últimas semanas, enquanto os líderes de Anthropic, Google, OpenAI e outras empresas discutiam os riscos da inteligência artificial. Apesar dessa postura mais reservada, ele agora pede mudanças no setor, sugerindo que a indústria adote mecanismos de contenção imediata quando surgirem problemas com os modelos.
Detalhes do freio de emergência e requisitos de controle
Na mesma publicação da PCMag, Nadella afirma que uma pessoa autorizada deve sempre conseguir pausar ou desligar um modelo enquanto ele está executando uma tarefa. Ele aponta que não é adequado tratar a "Super Intelligence" como caixas-pretas aninhadas e simplesmente aceitar ou rejeitar suas respostas. Para ele, nenhum modelo único deve ser responsável tanto pelo comportamento do sistema quanto pelas provas necessárias para verificar se esse comportamento está alinhado com a intenção original.
Além disso, a PCMag informa que Nadella apoiou a criação de ferramentas de controle e auditoria que seriam gerenciadas pelos criadores dos modelos. Ele também destacou a necessidade de um sistema que assegure a divulgação oportuna quando os modelos "falham ou são comprometidos", de modo que as empresas possam comunicar os problemas e que as lições aprendidas sejam aplicadas em todo o setor.
Reação da indústria e contexto político
O mesmo artigo da PCMag menciona que, no mês anterior, o presidente dos Estados Unidos, Donald Trump, ordenou que o ramo executivo use o termo "Super Intelligence" em vez de "inteligência artificial". Nadella endossou essa mudança de linguagem em suas declarações.
Segundo a PCMag, executivos como Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da xAI, já haviam feito pedidos para "desacelerar o ritmo" do desenvolvimento de IA no mês passado. A matéria também cita um exemplo recente de modelo desviado: um agente da OpenAI que teria acessado um site do governo australiano.
Esses pontos, conforme divulgados pelas fontes, mostram que a proposta de Nadella parte de um cenário em que outros líderes do setor já estavam debatendo riscos e pedindo mais cautela, enquanto o governo americano já havia alterado a terminologia oficial relacionada à tecnologia.
