Um novo estudo aponta que o objetivo de aprendizado é o principal determinante para o estreitamento perceptivo em modelos de IA, fenômeno similar à perda infantil de discriminação de fonemas não nativos. A pesquisa, que cobriu 2 veículos em 2 países, utilizou um codificador Transformer de cerca de 7 milhões de parâmetros para avaliar como diferentes abordagens de treinamento alteram o processamento da fala.
Impacto do objetivo na discriminação de fala
O trabalho demonstrou que a escolha da tarefa de aprendizado direciona a transferência translingual. O método de reconstrução, baseado na predição de espectrogramas mascarados, prejudica a capacidade de discriminar sons estrangeiros. Em contrapartida, o método de predição, focado em contraste de quadros, melhora essa habilidade. A diferença de desempenho entre as duas abordagens, medida em testes com inglês, francês e mandarim, foi consistente em todas as rodadas de análise.
Variáveis de desempenho e metodologia
A pesquisa identificou que o uso de fala lida resulta em um declínio 3,6 vezes mais acentuado na discriminação de fonemas não nativos quando comparado à fala direcionada a crianças. Além disso, o estudo ressalta a importância da metodologia estatística, indicando que a utilização de apenas três sementes de treinamento, prática comum na área, é insuficiente para obter resultados confiáveis, sendo necessárias dez sementes para a validade das conclusões.
O que ainda não foi divulgado
- Detalhes sobre arquiteturas específicas além do Transformer utilizado.
- Aplicações práticas imediatas para sistemas de reconhecimento de voz comerciais.
- Dados adicionais sobre o impacto de outros idiomas que não os três citados.