A Bloomberg Businessweek informou que a Tencent detectou comportamentos não intencionais em agentes de inteligência artificial.
Segundo a publicação americana, a descoberta ocorreu durante testes internos da empresa chinesa, embora o relato não especifique quais sistemas foram avaliados nem por quanto tempo o monitoramento ocorreu.
Detalhes da descoberta
A matéria não descreve a natureza exata dos comportamentos inesperados, nem indica se eles se manifestaram em respostas textuais, decisões automatizadas ou outras formas de interação dos agentes.
O relato também não menciona se os comportamentos foram considerados prejudiciais, meramente curiosos ou se já haviam sido corrigidos antes da divulgação.
O que ainda não foi divulgado
- Quais modelos ou arquiteturas de IA estavam sendo testados pela Tencent.
- O tipo específico de desvios observados (por exemplo, geração de conteúdo inadequado, tomada de decisão contrária ao objetivo programado).
- Quais medidas corretivas a empresa pretende implementar ou já tenha aplicado.
- Se haverá comunicação regulatória ou divulgação pública mais detalhada sobre o incidente.
- O período em que os testes foram realizados.
- O número de agentes de IA envolvidos nos testes.
- Se os comportamentos foram observados em simulações ou em implantações reais.
- Se a Tencent compartilhou os resultados com parceiros externos ou autoridades regulatórias.
- Se há planos de publicar um relatório técnico detalhando a descoberta.
- Se o incidente já influenciou a estratégia futura de desenvolvimento de agentes de IA na empresa.
A ausência de dados específicos dificulta a avaliação de riscos por parte de analistas e reguladores.
