A Microsoft publicou um rascunho de regras que limitam o comportamento de seus futuros modelos de inteligência artificial. O objetivo? Manterlos sob controle humano e operando com segurança. O documento, chamado 'Hümanist Yapay Zeka Davranış Kuralları' ('Regras de Comportamento para uma IA Humanista' em tradução), veio ao light em meio a um debate global acirrado sobre segurança de IA, segundo o Bloomberg HT.
O que prevê o rascunho
Segundo o veículo turco, a proposta exige que os modelos da Microsoft funcionem com segurança e permaneçam sob significativa supervisão humana. A ideia central é que a tecnologia não ultrapasse os limites definidos por pessoas – garantindo controle humano efetivo em todas as operações.
Ele também fala da necessidade de modelos serem desenvolvidos com mecanismos que impedirão ações autônomas fora do escopo pretendido. Isso alinha-se a discussões mais amplas sobre governança de IA.
Contexto e posicionamento de líderes do setor
A Microsoft lança a iniciativa em um momento de intensos debates sobre riscos da IA. O documento cita que líderes de outras empresas, como Dario Amodei (Anthropic) e Sam Altman (OpenAI), haviam defendido desaceleração controlada do desenvolvimento de modelos como medida de segurança, segundo o Ekonomim.
Mas a Microsoft não confirmou se adotará postura semelhante em relação à velocidade de seus próprios modelos. Sua publicação sinaliza preocupação com governança, mas não detalha prazos ou mecanismos de implementação.
O que ainda não foi divulgado
O que não ficou claro. A Microsoft não disse quando as regras entram em vigor ou se se aplicam a modelos já lançados. Mecanismos técnicos para supervisão humana e como lidar com violações também não foram detalhados. O cronograma de consultas públicas ou revisão do documento também não foi revelado.
