Moonshot AI anuncou a reducao das capacidades ofensivas de ciberataques em seu mais novo modelo, o Kimi K3.1 Pro, ao mesmo tempo em que manteve as habilidades gerais de programacao. A startup chinesa revelou a medida durante a apresentacao do modelo, descrito como sua versao mais avancada da classe de 3 trilhoes de parametros com pesos abertos.
Medidas de seguranca implementadas
A empresa removeu dados ciberneticos do conjunto de treinamento e dos ambientes de aprendizado por reforco utilizados no desenvolvimento do modelo. Segundo a Moonshot, isso evita que o lancamento de pesos abertos estenda a fronteira absoluta da capacidade ofensiva em ciberseguranca.
Em testes internos, o Kimi K3.1 Pro obteve 81,0% em benchmark cibernetico interno, contra 90,5% de uma versao sem as medidas de reducao. O teste envolveu identificar e explorar vulnerabilidades em um ambiente controlado. A empresa afirmou que a filtragem de dados reduziu o desempenho ofensivo do modelo, embora continuasse superando seu predecessor.
Lancamento e contexto regulatorio
Os pesos do modelo serao disponibilizados publicamente ate 4 de novembro, permitindo que desenvolvedores externos os utilizem e modifiquem. Além disso, a empresa lancou uma versao mais rapida chamada K3.1 Pro Highspeed, que opera entre dois e tres vezes mais rapido que a versao padrao.
Preocupacoes sobre o uso de IA em ataques ciberneticos vivem aumento crescente entre governos, empresas de tecnologia e pesquisadores de seguranca. Modelos capazes de escrever codigo, operar ferramentas de software e completar tarefas complexas podem facilitar a identificacao de falhas e automatizar partes de ataques.
Na China, foram propostas ultimamente controles de exportacao que proibiriam o envio de tecnologias de IA para geracao e mutacao de malware, bem como restrinjariam ferramentas de descoberta de vulnerabilidades assistidas por IA.
O que ainda nao foi divulgado
- A validacao independente dos resultados dos testes internos da Moonshot AI
- A reacao de especialistas externos ao lancamento dos pesos abertos
- O impacto real da reducao de capacidades no combate a ameacas reais
- Detalhes completos sobre o funcionamento do benchmark cibernetico interno
