A Microsoft se comprometeu com regras abrangentes de privacidade de IA para estudantes, em acordo com o sindicato de professores dos EUA. O pacto impede o uso de dados de alunos para treinar sistemas de IA, com raras exceções para proteção estudantil. A novidade chega enquanto os dois maiores distritos escolares do país, Nova York e Los Angeles, suspenderam o uso de IA por estudantes por um ano, e enquanto outras gigantes do setor avaliam medidas semelhantes.
O acordo, anunciado pela Microsoft e pela Federação Americana de Professores (AFT), é o primeiro do tipo, segundo a entidade. Ele estabelece limites claros: a empresa não usará dados de estudantes ou educadores para treinar modelos de IA, exceto em situações que possam ajudar a proteger os alunos. Também proíbe a venda de dados coletados, o uso para publicidade ou desenvolvimento de produtos, e restringe funcionalidades que possam criar dependência emocional ou prolongar o engajamento além do necessário para a tarefa de aprendizado.
O que o acordo exige
O pacto, que vale para todas as escolas com contratos da Microsoft a partir de 1º de novembro, inclui medidas de auditoria e transparência. A empresa terá que explicar às famílias, em linguagem clara, como suas ferramentas funcionam. Brad Smith, vice-presidente da Microsoft, disse que as salvaguardas "estabelecem um padrão elevado para a privacidade infantil e a segurança da IA" e que a empresa pretende estender o acordo a todos os distritos escolares do país.
Randi Weingarten, presidente da AFT, classificou o acordo como "o primeiro do tipo" e um passo importante para criar um padrão da indústria, na ausência de legislação federal ou estadual sobre IA nas escolas. "Queremos que os pais tenham controle sobre a educação dos filhos. Queremos que os educadores tenham controle, não a tecnologia educacional", afirmou Weingarten, em entrevista coletiva na sede da Federação Unida de Professores, afiliada da AFT em Nova York.
Pressão sobre as demais empresas
A OpenAI e a Anthropic afirmaram que também estão discutindo pactos de segurança e privacidade com a AFT, segundo o comunicado. No entanto, a Google, principal provedora de tecnologia educacional para as escolas americanas, não disse se planeja oferecer proteções semelhantes. A ausência da gigante de buscas preocupa especialistas, que veem risco de que o acordo vire uma referência de mercado sem a adesão de todos os atores.
Josh Golin, diretor executivo da organização sem fins lucrativos Fairplay, alertou que o padrão pode ser mal interpretado: "Temo que uma estrutura de alto perfil como esta seja mal compreendida e as escolas pensem: 'Se eles estão fazendo um bom trabalho com privacidade de dados e segurança, então devemos usar a ferramenta'." Ele defende que o debate sobre se produtos de IA pertencem às salas de aula e a idade adequada para introduzi-los continua em aberto.
O que ainda não foi divulgado
A Google não respondeu publicamente se adotará padrões semelhantes, e não há cronograma oficial para que outras empresas adiram ao pacto. Os detalhes sobre como a auditoria de conformidade será feita e quem fiscalizará o cumprimento das regras também não foram totalmente esclarecidos. As conversas com OpenAI e Anthropic seguem sem prazo definido para conclusão.
