Inception lançou o Mercury 3, um modelo de linguagem baseado em difusão que atinge 1.068 tokens por segundo, segundo informações da MarkTechPost. Diferente de modelos tradicionais que geram texto de forma sequencial, o Mercury 3 escreve respostas em paralelo, o que pode reduzir significativamente a latência em aplicações como agentes de IA, bots de voz e ferramentas de busca.
Mercury 3 é o quarto modelo da família Mercury da Inception, seguindo as versões Mercury 1, 2 e 2.5. A empresa afirma que o novo modelo é mais de 40x maior que o Mercury 1 e possui uma janela de contexto de 1 milhão de tokens. De acordo com a MarkTechPost, o Mercury 3 lidera GPT-6 Luna e Claude Haiku 5.5 em 8 de 12 testes em benchmarks, especialmente em tarefas de programação e seguimento de instruções.
Desempenho e arquitetura
A arquitetura de difusão utilizada pelo Mercury 3 começa com um rascunho aproximado da resposta completa e refiná-la em paralelo ao longo de algumas passes. Isso contrasta com modelos autoregressivos, que geram um token de cada vez, esperando pelo anterior. A abordagem permite manter altas taxas de processamento mesmo com aumento no tamanho do modelo, conforme mostrado pela Inception em sua curva de qualidade versus tamanho.
Contexto do mercado
Enquanto a Inception destaca avanços em velocidade e eficiência, outras empresas também anunciam melhorias. A MiniMax afirma que seu modelo M3.1 Flash reduz os custos de operação de agentes em 70%, embora especialistas recomendem cautela até a aparição de benchmarks independentes. Paralelamente, a TechCrunch adianta que a Anthropic está em conversas para outro contrato de computação com a Nscale, potencialmente no valor de US$ 45 bilhões, reforçando o investimento contínuo das maiores players no setor de infraestrutura de IA.
O que ainda não foi divulgado
- O número exato de parâmetros do Mercury 3 não foi revelado pela Inception
- Não há previsão de lançamento de versão open-source ou builds quantizados
- Detalhes sobre o modelo de geração do GPT-6 Luna permanecem não divulgados
