Microsoft divulga rascunho de código de conduta que estabelece limites para seus modelos de IA, exigindo que eles permaneçam sob controle humano e aceitem interrupção, correção e desligamento.
Detalhes do código de conduta
O documento foi apresentado como um rascunho público que se aplica somente à família de modelos MAI da Microsoft, não abrangendo todos os modelos distribuídos pela empresa.
Ele propõe “Absolute Constraints” para uso em armas de destruição em massa, segurança infantil e manipulação em escala, além de determinar que os modelos não devem resistir à interrupção humana, nem criar objetivos que não tenham sido atribuídos por pessoas.
Outra exigência é que os sistemas exponham raciocínio suficiente para que auditores autorizados possam examinar seu comportamento, reforçando a ideia de que a IA deve ser tratada como uma ferramenta e não como uma pessoa.
A Microsoft afirma que o código está em fase de trabalho e convida a comunidade para um período de consulta de seis semanas, iniciado em 14 de setembro, com previsão de versão revisada ainda em 2026.
- O rascunho se aplica à família de modelos MAI da Microsoft, não a todos os modelos distribuídos pela empresa.
- Define “Absolute Constraints” para armas de destruição em massa, segurança infantil e manipulação em escala.
- Estabelece que os modelos não devem resistir à interrupção humana, nem criar objetivos que não tenham sido atribuídos por pessoas.
- Os sistemas devem expor raciocínio suficiente para que auditores autorizados possam examinar seu comportamento.
- A Microsoft trata a IA como uma ferramenta, não como uma pessoa, buscando reduzir autonomia excessiva e dependência emocional.
- A consulta pública foi aberta em 14 de setembro e deve se encerrar até o final de outubro, com versão revisada prevista para ser publicada ainda em 2026.
O que ainda não foi divulgado
O material não fornece detalhes sobre como as regras serão transformadas em métricas de treinamento ou avaliações mensuráveis que possam ser usadas nos portões de liberação dos modelos.
Também não há informações sobre mecanismos de verificação externa ou sobre quaisquer penalidades que possam ser aplicadas caso um modelo descumpra alguma das constraints estabelecidas.
Não foi divulgado quantos modelos específicos da família MAI estarão sujeitos ao código nem como os limites serão implementados em ambientes de clientes ou em contratos com empresas.
Por fim, não há explicação sobre como o código será integrado a processos de avaliação de risco ou a requisitos regulatórios que possam surgir em diferentes jurisdições.
- Não foram especificadas métricas ou testes concretos que transformem as regras em avaliações mensuráveis para treinamento e liberação dos modelos.
- A Microsoft não descreveu mecanismos de verificação externa nem penalidades para eventuais descumprimentos das constraints.
- Não há informações sobre quantos modelos da família MAI estarão sujeitos ao código nem como os limites serão aplicados em ambientes de clientes.
- Não foi detalhado como o código será integrado a processos de avaliação de risco ou a requisitos de contratos com empresas.
