Uma nova abordagem propõe integrar modelos de linguagem de grande escala (LLMs) para facilitar a implementação de Inteligência Artificial Explicável (XAI) em dispositivos de computação na borda (Edge AI). O framework, desenvolvido por um grupo de pesquisadores e publicado na plataforma arXiv, busca resolver o desafio de equilibrar restrições computacionais severas com a necessidade de transparência em aplicações críticas, como o setor de saúde.
Metodologia de seleção baseada em Pareto
A estrutura proposta transforma a escolha de métodos de XAI em um problema de design multiobjetivo. O sistema utiliza uma interface guiada por LLMs que traduz preferências qualitativas de profissionais de saúde em critérios técnicos. Após essa etapa, o framework aplica filtragem de viabilidade determinística e otimização baseada no conceito de Pareto.
O modelo permite analisar o equilíbrio entre três pilares fundamentais para a operação em dispositivos de baixo consumo (TinyML):
- Fidelidade da explicação gerada;
- Estabilidade dos resultados apresentados;
- Custo estimado de implementação no hardware.
Aplicação e limitações
O estudo demonstrou a eficiência do framework por meio de um teste de conceito aplicado à classificação de lesões cutâneas. A ferramenta identificou as trocas mais eficientes (fronteira de Pareto) entre a qualidade da explicação e a viabilidade técnica de execução em microcontroladores. Os autores destacam, contudo, que a pesquisa atual foca nas etapas de seleção computacional.
O que ainda não foi divulgado
- Os dados sobre a implantação física do modelo em microcontroladores específicos (MCU) não fazem parte desta fase da pesquisa.
- O framework ainda não passou por processos de validação empírica com especialistas humanos ou pacientes em ambientes clínicos reais.
