OCTO+

KT lança "Token Factory" integrando 500 modelos de IA

Plataforma da KT seleciona modelos de IA automaticamente e promete redução de 25% no uso de tokens.

27 de out., 05:47 7 fontes · 1 país Mercado Produto
Mercado
Interface de plataforma de inteligência artificial com ícones de modelos de IA Foto: Andrew Neel / Pexels

A KT, operadora de telecomunicações da Coreia do Sul, lança em 30 de outubro a plataforma "Token Factory", que reúne mais de 500 modelos de inteligência artificial em um único ambiente para seleção automática, monitoramento e gestão de custos. De acordo com a Yonhap News, a plataforma sai com 73 modelos disponíveis desde o primeiro dia, com a conexão a 500 modelos globais prevista para novembro por meio da integração com o marketplace OpenRouter. A expansão inclui a abertura para desenvolvedores e pessoas físicas a partir de março do ano que vem, com planos de assinatura.

seleção automática e redução de custos

A Yonhap News explica que a plataforma usa a tecnologia "Auto Model Router", desenvolvida internamente pela KT, para analisar o tipo de tarefa, a dificuldade, a qualidade exigida e o custo de cada solicitação, escolhendo o modelo mais adequado de forma automática. Segundo a SBS News, a mesma tecnologia liderou as classificações gerais do benchmark global "Router Arena". A KT também aplica compressão de prompts que considera o idioma coreano, removendo repetições desnecessárias para reduzir o número de tokens de entrada sem perder a qualidade da resposta. A combinação dessas duas tecnologias pode reduzir o consumo de tokens em até 25%, com 20% vinculados à compressão de prompts e 5% à escolha de modelos de menor custo.

parceria com OpenRouter e modelos soberanos

A parceria anunciada entre a KT e o OpenRouter, marketplace global de modelos de IA, será a primeira colaboração oficial no país, conforme destacam Yonhap News e SBS News. Em novembro, os 500 modelos disponíveis no OpenRouter serão integrados à "Token Factory", enquanto modelos coreanos passarão a ser comercializados internacionalmente por meio da mesma plataforma. Das 73 opções iniciais, sete são modelos soberanos executados diretamente nos data centers da KT, usando os GPUs locais. A Yonhap News cita que o objetivo é ampliar essa categoria para cerca de 10 modelos até o próximo ano. A operadora informa ainda que os modelos globais podem ser processados em servidores situados fora do país, dependendo do provedor, e que os usuários receberão informações sobre quem fornece cada modelo e onde ele opera.

estratégia comercial, preços e segurança

A KT posiciona a "Token Factory" como complemento de sua agenda de transformação digital corporativa, com foco em mercados financeiros e públicos. Para o setor bancário, a operadora oferece sete modelos rodando em data centers domésticos; para o setor público, a plataforma será implantada em um ambiente em nuvem separado, alinhado a regulamentações de segurança. A empresa aplica seus próprios mecanismos de guarda-chuva para filtrar informações pessoais, dados sensíveis e conteúdos prejudiciais tanto nas entradas quanto nas saídas geradas. Dois planos de pagamento serão oferecidos: o "Standard", com faturamento por uso e opções de crédito pré-pago ou pós-pago, e o "Enterprise", com descontos por volume, rede dedicada e acordos de nível de serviço personalizados.

o que ainda não foi divulgado

Apurado em 7 fontes

연합뉴스 (Yonhap News) (Coreia do Sul) · SBS News (Coreia do Sul)

ver as 7 fontes

Continue lendo

Receba sem abrir o site

no e-mail ou no WhatsApp · análises + plantão + resumo semanal · cancele com 1 clique
Pronto. A primeira edição chega no seu e-mail.

Assine GRÁTIS e cancele com 1 CLIQUE quando quiser. ;)