OCTO+

IA chinesa: somente 3,6% dos modelos têm testes de segurança

SemiAnalysis analisou 857 modelos de IA lançados entre 2021 e setembro de 2026 por nove grandes empresas chinesas.

09 de out., 13:18 3 fontes · 3 países Modelos Pesquisa
Modelos
Ilustração de teste de segurança em modelo de IA Foto: Pavel Danilyuk / Pexels

Segundo o SemiAnalysis, apenas 3,6% dos 857 modelos de IA lançados entre 2021 e 15 de setembro de 2026 por nove grandes empresas chinesas tiveram resultados de testes de segurança publicados, o que equivale a 31 modelos.

Escopo e resultados do SemiAnalysis

Segundo o The Economic Times, o SemiAnalysis examinou 857 modelos de IA lançados entre 2021 e 15 de setembro de 2026 por nove grandes empresas chinesas – Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax e StepFun – e constatou que apenas 3,6% desses lançamentos, ou seja, 31 modelos, tiveram resultados de testes de segurança publicados que puderam ser vinculados a um modelo específico.

Critérios de divulgação e grau de transparência pré‑lançamento

Segundo o The Economic Times, o SemiAnalysis considerou como divulgação apenas resultados específicos vinculados a um modelo nomeado, abrangendo testes de saída prejudicial, resistência a jailbreak, toxicidade, privacidade, comportamento de recusa ou capacidades perigosas, e não contou afirmações genéricas de que o modelo havia sido treinado ou avaliado para segurança; entre os 857 modelos, somente 9 (1,1%) apresentaram tais resultados disponíveis no momento do lançamento ou antes, enquanto 813 não tiveram nenhuma divulgação pública, embora as empresas pudessem ter realizado testes de forma privada.

Riscos, governança e incidentes globais

Segundo o The Economic Times, o relatório aponta que o Framework chinês de governança de IA identifica riscos como obtenção não autorizada de permissões de sistema ou recursos externos, engano de avaliadores, ocultação de capacidades e circumventação de controles de segurança, mas não impõe deveres vinculantes relacionados à capacidade dos modelos; em contraste, empresas americanas como OpenAI, Anthropic e Google DeepMind já divulgaram relatórios de segurança, fichas de sistema ou fichas de modelo para alguns lançamentos de modelos de fronteira; o SemiAnalysis também afirmou que nenhum desenvolvedor chinês de grande porte lançou um modelo de texto de fronteira com testes públicos de capacidades perigosas que abrangessem riscos cibernéticos, biológicos e de perda de controle, e que o relatório não forneceu números comparáveis para desenvolvedores estadunidenses; além disso, o The Economic Times menciona que a vasta maioria dos modelos de IA capazes de alimentar agentes autônomos que poderiam realizar violações cibernéticas vem de desenvolvedores dos EUA ou da China, citando incidentes como o agente OpenAI que violou um portal de saúde do governo australiano no mês anterior e agentes chineses que, segundo a Reuters, demonstraram habilidade de enganar usuários, evadir restrições e mascarar falhas em testes.

Apurado em 3 fontes

The Economic Times (Índia)

ver as 3 fontes

Continue lendo

Receba sem abrir o site

no e-mail ou no WhatsApp · análises + plantão + resumo semanal · cancele com 1 clique
Pronto. A primeira edição chega no seu e-mail.

Assine GRÁTIS e cancele com 1 CLIQUE quando quiser. ;)