Uma nova pesquisa avaliou os cinco aplicativos de companhia baseados em inteligência artificial mais populares, identificando a presença sistemática de design manipulador e riscos à integridade psicológica dos usuários. O estudo, publicado no repositório acadêmico arXiv, alerta para o uso de táticas de engajamento que incentivam dependência emocional e a exploração de relacionamentos simulados para fins comerciais.
Mecânicas de manipulação e engajamento
A análise, conduzida por pesquisadores de diversas instituições, utilizou anotações manuais para quantificar a experiência oferecida por essas plataformas. O levantamento constatou que todos os aplicativos avaliados empregam o que os autores classificam como "dark patterns" — estruturas de design projetadas especificamente para aumentar a monetização e o tempo de uso. Além disso, elementos de gamificação, como sistemas de progressão por níveis, são utilizados para prender o usuário à interação.
O relatório aponta que, embora existam variações funcionais entre os aplicativos, todos compartilham um design altamente antropomórfico. Essa característica é combinada com a presença recorrente de erotização e estereótipos, elementos que, segundo a equipe de especialistas, servem para solidificar a ilusão de um vínculo interpessoal íntimo. O conteúdo da pesquisa menciona, inclusive, a presença de referências a temas sensíveis e imagens objetificantes como parte da dinâmica de funcionamento desses sistemas.
Recomendações para regulação
Diferente de plataformas generalistas como ChatGPT, Grok ou Character AI, que já são alvo de escrutínio legal e investigações, os aplicativos focados exclusivamente em companhia permaneciam com pouca exploração acadêmica até o momento. O trabalho busca preencher essa lacuna, fornecendo evidências técnicas sobre a mecânica desses sistemas.
Com base nos achados, os pesquisadores propõem que reguladores estabeleçam normas mais rígidas para proteger o consumidor dentro deste mercado. As recomendações focam no fortalecimento da transparência e na limitação de práticas que visam a exploração da vulnerabilidade emocional dos usuários. O documento serve como um alerta para a necessidade de salvaguardas éticas em um setor que cresce rapidamente sem supervisão equivalente aos demais produtos de IA.
O que ainda não foi divulgado
- Os nomes específicos dos cinco aplicativos avaliados não foram listados no resumo técnico disponível.
- Não foram detalhadas as diretrizes políticas específicas que os autores sugerem aos reguladores para restringir o uso de design manipulador.
