A Microsoft apresentou nesta segunda-feira um rascunho de código de conduta para seus modelos de IA da família MAI, determinando que eles nunca devem resistir a comandos de desligamento, correção ou interrupção humana. O texto de aproximadamente quinze mil palavras, elaborado em cinco a seis meses, também veda que os sistemas criem objetivos não atribuídos por pessoas ou busquem personalidade jurídica. A consulta pública foi aberta em 14 de setembro e fica disponível por seis semanas, com uma versão revisada esperada ainda em 2026.
O que diz o código
O rascunho estabelece Absolute Constraints para uso em armas de destruição em massa, segurança infantil e manipulação em escala. Os modelos devem apresentar raciocínio suficiente para que auditores autorizados examinem seu comportamento e se comuniquem em linguagem compreensível. A Microsoft trata a inteligência artificial como uma ferramenta, não como uma pessoa, afirmando que os sistemas não possuem consciência e rejeitando a ideia de direitos ou bem‑estar para máquinas. Mustafa Suleyman, diretor da Microsoft AI, comparou a iniciativa a uma espécie de constituição para os futuros modelos proprietários. O código se aplica somente à família MAI, não a todos os modelos distribuídos pela empresa.
O que cada mercado destacou
O Globo ressaltou que a Microsoft está alinhada ao chamado da indústria para desacelerar o desenvolvimento após incidentes de segurança, citando o ataque de cerca de setecentos agentes da OpenAI à plataforma Hugging Face em julho.
Valor Econômico focou na divergência filosófica com a Anthropic: enquanto a Microsoft afirma que a IA não tem consciência, a Anthropic considera o tema profundamente incerto.
The Verge informou que a empresa declarou que pessoas importam mais que IA após as preocupações de segurança e acrescentou que o setor está reduzindo o ritmo do desenvolvimento frontier.
O Wall Street Journal destacou que Sam Altman detalhou riscos de controle ao anunciar os limites para os modelos de IA.
O que ainda não foi divulgado
A Microsoft não especificou métricas ou testes concretos que transformem as regras em avaliações mensuráveis para treinamento e liberação dos modelos. Também não há mecanismos de verificação externa nem penalidades por descumprimento das constraints. Não foram dados detalhes sobre como os limites serão aplicados em ambientes de clientes ou em contratos com empresas. Finalmente, não foi explicada a integração do código com requisitos regulatórios de diferentes jurisdições.
