- O Kimi K3 é o primeiro modelo aberto de classe 3T do mundo, com 2,8 trilhões de parâmetros, visão nativa e contexto de 1 milhão de tokens, voltado para programação de longa duração, trabalho com conhecimento e raciocínio
- Aplica Kimi Delta Attention/Attention Residuals e Stable LatentMoE, que ativa 16 especialistas entre 896, elevando a eficiência geral de escalonamento em cerca de 2,5 vezes em relação ao Kimi K2
- Executa tarefas de longa duração com mínima intervenção humana em otimização de kernels de GPU, desenvolvimento de compiladores, criação de jogos 3D, projeto de chips e pesquisa científica, registrando resultados competitivos ou superiores a modelos fechados em alguns benchmarks de programação/agentes
- Já pode ser usado no Kimi.com/Kimi Work/Kimi Code/Kimi API e, no lançamento, o esforço máximo de raciocínio é o padrão; os pesos completos do modelo devem ser abertos até 27 de julho de 2026
- O desempenho geral e a experiência do usuário não alcançam Claude Fable 5 e GPT 5.6 Sol, e há limitações como sensibilidade à forma de repasse do histórico de raciocínio e a possibilidade de tomar decisões excessivas pelo usuário em situações ambíguas
Modelo aberto de 2,8 trilhões de parâmetros
- O Kimi K3 é o modelo de maior desempenho já divulgado pela Kimi, com suporte a 2,8 trilhões de parâmetros / contexto de 1 milhão de tokens / visão nativa
- Embora o desempenho geral fique abaixo de Claude Fable 5 e GPT 5.6 Sol, ele superou de forma consistente outros modelos de comparação em avaliações internas amplas, mostrando resultados de nível frontier
- Em 9 dos últimos 12 meses, os modelos Kimi atualizaram o teto de tamanho entre modelos abertos, e o K3 é o primeiro a atingir a classe 3T
- Disponível em Kimi.com, Kimi Work, Kimi Code e Kimi API
- A versão de lançamento usa esforço máximo de raciocínio por padrão, e os modos de baixo esforço/alto esforço serão adicionados em atualizações futuras
- Provedores de serviços de inferência e mantenedores de open source estão ajustando os detalhes técnicos, e os pesos completos e o relatório técnico devem ser divulgados até 27 de julho de 2026
Arquitetura KDA/AttnRes/Stable LatentMoE
- Kimi Delta Attention (KDA) fornece a base para escalar atenção de forma eficiente em sequências longas
- Attention Residuals (AttnRes), em vez de acumular uniformemente as representações de cada camada, busca seletivamente as representações necessárias ao longo da profundidade do modelo
- Expande a esparsidade de Mixture of Experts, ativando apenas 16 especialistas entre 896 na arquitetura Stable LatentMoE
- Ao combinar mudanças estruturais com melhorias na receita de treinamento/dados, a eficiência geral de escalonamento aumentou cerca de 2,5 vezes em relação ao Kimi K2
- Várias técnicas foram aplicadas para roteamento e otimização de grandes modelos esparsos
- Quantile Balancing calcula diretamente a alocação de especialistas a partir dos quantis das pontuações do roteador, eliminando atualizações heurísticas e hiperparâmetros sensíveis de balanceamento
- Per-Head Muon otimiza cada cabeça de atenção de forma independente, aumentando a adaptabilidade no treinamento em grande escala
- Sigmoid Tanh Unit (SiTU) controla os valores de ativação e Gated MLA aumenta a seletividade da atenção
Infraestrutura de treinamento e inferência
- Desde a etapa de SFT, aplica treinamento com consciência de quantização e usa pesos MXFP4 / ativações MXFP8 para ampla compatibilidade de hardware
- Para que o desequilíbrio entre especialistas não reduza o throughput no paralelismo massivo de especialistas, foi adotado um método de treinamento com paralelismo de especialistas totalmente balanceado, com forma de tensor fixa e sem sincronização de host no caminho crítico
- Na inferência, é recomendada uma configuração de supernode com mais de 64 aceleradores conectados, devido à necessidade de uma ampla área de comunicação de alta largura de banda
- Foi contribuída para a comunidade vLLM uma implementação para resolver os problemas que o KDA impõe ao prefix caching existente, e ela será publicada junto com o modelo
- Com o KDA prefill cache, é possível oferecer o serviço com preço competitivo por token mesmo com o tamanho do modelo e o contexto longo
Programação de longa duração e feedback visual
- Consegue sustentar longas sessões de engenharia com supervisão humana mínima, explorar grandes repositórios e coordenar ferramentas de terminal
- Combina engenharia de software e raciocínio visual para verificar screenshots e resultados de execução, refinando iterativamente desenvolvimento de jogos, frontend e resultados de CAD
- No modo vision in the loop, que alterna entre código e tela real, converte imagens e vídeos em resultados interativos executáveis
- Na fase final de desenvolvimento, versões iniciais do Kimi K3 cuidaram da maior parte do trabalho de otimização de kernels de GPU da equipe
Otimização de kernels de GPU
- A avaliação fez cada modelo perfilar e modificar kernels AttnRes/KDA/MLA por até 24 horas no mesmo sandbox
- O Kimi K3 competiu com o possível resultado de fallback do Fable 5 e registrou resultados geralmente superiores a Opus 4.8/GPT 5.6 Sol/GPT 5.5
-
AttnRes
- Otimizou uma implementação operacional de FLA Triton com 96 camadas / dimensão do modelo 8.192 / 8.192 tokens sem alterar os resultados numéricos
- Após 15 horas de iteração, projetou um novo algoritmo de kernel em duas etapas e fundiu vários kernels
- Reduziu o tempo de forward e backward de 283,6 ms para 114,4 ms
- O desempenho final foi semelhante ao possível fallback do Fable 5, mas a velocidade de otimização por iteração do K3 foi maior
-
DSA
- Otimizou um kernel DSA baseado em TileLang em uma configuração real de treinamento com hiperparâmetros alinhados ao DeepSeek-V3.2 e sequência de 1 milhão de tokens
- Reduziu o tempo end-to-end em 55,1% em relação à implementação de referência, ficando em segundo, atrás dos 57,3% do Fable 5
-
MLA-512
- Escreveu do zero um kernel MLA com batch 1 / 64 cabeças / 8.192 tokens / dimensão de cabeça 512, sem kernel de referência
- Alcançou 517,8 TFLOPS em forward e backward, superando metade do pico teórico BF16 do H200
- Superou os 492,7 TFLOPS do próximo melhor modelo
-
KDA on GPGPU
- Otimizou uma implementação FLA Triton de KDA em GPUs genéricas de um fornecedor alternativo, com pilha de software e comportamento de memória diferentes do CUDA
- Refez do zero o modelo de desempenho a partir do profiling e reduziu o tempo de forward e backward em 73,6% frente à implementação de referência
- Informou que ainda pode haver margem para melhorias adicionais
-
Pontos de atenção na avaliação
- Claude Fable 5 foi avaliado por terceiros, e alguns resultados podem incluir comportamento de fallback
- Alguns caminhos de execução de vários modelos usaram pequenos atalhos de precisão dentro da margem de erro numérica permitida
Compilador de GPU MiniTriton
- O Kimi K3 desenvolveu do zero o MiniTriton, um pequeno sistema de programação de GPU semelhante ao Triton
- Construiu sua própria representação intermediária por tiles sobre MLIR e implementou passes de otimização / pipeline de geração de código PTX / runtime
- Em benchmarks roofline suportados, obteve desempenho semelhante ou superior ao Triton e ao
torch.compile, superando o Triton em algumas tarefas - Executou de forma estável o treinamento completo do nanoGPT, com curva de perda convergindo e mostrando apenas pequenas diferenças em relação à implementação de referência
- Criou um compilador completo e consistente, do frontend DSL à otimização de IR / geração de PTX / runtime, e até o caminho de Tensor Core escrito do zero competiu com a pilha otimizada do Triton
Jogos 3D e criação digital
- O Kimi K3 criou um jogo de exploração 3D procedural no navegador usando Three.js WebGPU e GPU compute
- Gerou um mundo aberto com floresta, vila de cabanas de madeira, montanhas nevadas e clima dinâmico, além de criar modelos de cavaleiro e cavalo com ferramentas de geração de ativos 3D
- Os modelos animados de cowboy/cavalo e os dados de terreno usam ativos externos
- O resultado pode ser visto em 3D Open World
Projeto de chip para o modelo
- O Kimi K3 projetou, em 48 horas contínuas de trabalho autônomo, um chip para executar um modelo pequeno com sua própria arquitetura
- Fez projeto/otimização/verificação com a biblioteca Nangate 45nm e ferramentas EDA open source
- Atendeu ao timing de 100 MHz dentro de uma área de 4 mm² e registrou throughput de decodificação de mais de 8.700 tokens por segundo em simulação
- Inclui 1,46 milhão de células padrão, 0,277 MB de SRAM e um array INT4 MAC com dequantização fundida
Implementação de pesquisa em ciência computacional
- Conecta literatura científica a código executável para implementar, validar e analisar processos complexos de pesquisa computacional
- Concluiu em cerca de 2 horas a reprodução da relação universal I–Love–Q em astrofísica computacional, comparando com um trabalho que normalmente exigiria de 1 a 2 semanas de um pesquisador experiente
- Revisou e fez validação cruzada de mais de 20 artigos, implementando todo o pipeline de cálculo numérico
- Avaliou mais de 300 equações de estado e encontrou discrepâncias entre fórmulas publicadas
- Gerou mais de 3.000 linhas de código Python e um dashboard HTML interativo para explorar os resultados
Trabalho de conhecimento e pesquisa interativa
- A empresa afirma que o Kimi K3(max) também mostrou melhorias consistentes em avaliações internas baseadas em problemas recorrentes de usuários reais e workflows de agentes, além dos benchmarks públicos
-
Análise de 42 anos da indústria de AI ASIC
- Criou um site interativo analisando 42 anos da indústria de AI ASIC com mais de 120 ciclos recursivos de autoaperfeiçoamento
- Realizou mais de 2.800 buscas/coletas na web e mais de 1.100 coletas de dados via terminal
- Usou mais de 11.000 páginas de material, incluindo 87 relatórios trimestrais e 99 PDFs originais
- Transformou a base documental em gráficos personalizados, diagramas animados e narrativa visual interativa
-
Pesquisa sobre a indústria de fusão nuclear
- Produziu um relatório setorial em formato de consultoria, com timeline, funnel chart, range bar chart, gráfico de Gantt e slides em qualidade de publicação
-
Análise de ondas gravitacionais GWTC-5
- Analisou 391 eventos de ondas gravitacionais usando mais de 20 subagentes simultâneos
- Gerou 7 visualizações científicas, 2 tabelas e uma síntese bibliográfica de mais de 10 artigos
-
Apresentações
- Foi usado para criar apresentações em formato infográfico, como heatmaps totalmente editáveis e relatórios anuais
Widgets e Dashboard
- Adicionou ao Kimi Work os recursos Widgets/Dashboard para tornar as conversas mais visuais e persistentes
- Widgets permitem criar componentes interativos dentro do chat e mantê-los atualizados, conectando-os a dados locais ou plugins externos
- Dashboard mantém widgets importantes em uma única tela personalizada, organizada por tema/projeto/meta
Edição de vídeo
- Processa texto/imagem/vídeo em um único modelo multimodal nativo para realizar motion design, animação e edição de vídeo
- Produziu um vídeo em motion graphics no estilo 3Blue1Brown explicando sua própria arquitetura, expressando conceitos técnicos com diagramas animados e transições de tela
- Editou seu próprio vídeo teaser a partir de 56 clipes brutos, fazendo seleção de clipes, cortes com continuidade de ação, sincronização de ritmo em nível de frame, processamento de áudio e várias rodadas de revisão
- Compara esse tipo de vídeo curto e denso a um trabalho que normalmente leva de 1 a 2 dias para um editor experiente e de 3 a 5 dias para um iniciante
Principais resultados de benchmark
- Todos os resultados do Kimi K3 foram medidos com esforço de raciocínio
max/ temperature 1.0 / top-p 1.0, usando harnesses de agente KimiCode/Claude Code/Codex conforme o benchmark -
Programação
- DeepSWE 67,5 / Program Bench 77,8 / Terminal Bench 2.1 88,3
- FrontierSWE 81,2 / SWE Marathon 42,0 / PostTrain Bench 36,6
- MLS Bench 48,3 / Kimi Code Bench 2.0 interno 72,9
- Obteve a maior pontuação entre os modelos da tabela em Program Bench e SWE Marathon
- Em Terminal Bench 2.1 ficou próximo dos 88,8 do GPT 5.6 Sol, enquanto em FrontierSWE ficou abaixo dos 86,6 do Fable 5
-
Agentes e automação de trabalho
- GDPval-AA v2 1.668 Elo / BrowseComp 91,2 / DeepSearchQA 95,0
- Toolathlon-Verified 73,2 / MCP Atlas 84,2 / Automation Bench 30,8
- Job Bench 52,9 / AA-Briefcase 1.548 Elo / APEX-Agents 37,6
- Office QA Pro 63,3 / SpreadsheetBench 2 34,8 / DECK-Bench interno 73,5
- Registrou a maior pontuação entre os modelos da tabela em BrowseComp, DeepSearchQA, Automation Bench e SpreadsheetBench 2
- MCP Atlas usa Gemini 3.1 Pro como modelo juiz em 500 tarefas públicas com limite de 100 turnos
- AutomationBench foi avaliado com 600 tarefas públicas
- BrowseComp aplicou compressão de contexto em 300 mil tokens; ao usar 1 milhão de tokens sem gerenciamento, a pontuação do K3 é 90,4
-
Raciocínio e conhecimento
- GPQA-Diamond 93,5 / HLE-Full 43,5 / HLE-Full com ferramentas 56,0
- GPQA-Diamond ficou próximo dos 94,1 do GPT 5.6 Sol, mas HLE-Full ficou abaixo dos 53,3 do Fable 5 e de sua pontuação com ferramentas, 63,0
-
Visão
- MMMU-Pro 81,6, com Python 83,4
- CharXiv RQ 84,8, com Python 91,3
- MathVision 94,3, com Python 97,8
- BabyVision with Python 85,7
- ZeroBench
pass@523,0, com Python 41,0 - WorldVQA ForceAnswer 51,0 / OmniDocBench 91,1 / PerceptionBench interno 58,5
- Em OmniDocBench, registrou 91,1, a maior pontuação entre os modelos da tabela
- ZeroBench é executado 5 vezes conforme a configuração oficial, e as demais pontuações multimodais usam média de 3 execuções
- PerceptionBench é um benchmark próprio focado em capacidade de percepção visual elementar
Método de avaliação e limitações de comparação
- Como cada benchmark usa harnesses de agente e fontes de pontuação diferentes, há diferenças de condições na comparação direta entre modelos
- No DeepSWE, a pontuação com o harness KimiCode é 67,5; no harness mini-SWE-agent do leaderboard oficial, é 67,3
- Para Terminal Bench 2.1, as pontuações dos outros modelos usam o maior resultado entre vários harnesses
- A pontuação de FrontierSWE foi recalculada a partir da pontuação bruta com script oficial e está atualizada em 16 de julho de 2026
- PostTrain Bench usa a média de três execuções; quando Claude Fable 5 recusa uma solicitação por política, há fallback automático para Claude Opus 4.8
- As pontuações de GDPval-AA v2 e AA-Briefcase usam resultados da Artificial Analysis
Como usar e preços
- Kimi K3 Agents
- Disponível no app Kimi mais recente para iOS/Android/HarmonyOS ou em Kimi.com
- Kimi Work
- Suportado no Kimi Work 3.1.0 ou superior para Windows e Macs com Apple silicon
- Kimi Code
- Execute no terminal e selecione o Kimi K3 com o comando
/model
- Execute no terminal e selecione o Kimi K3 com o comando
- Kimi API
- O identificador do modelo é
kimi-k3 - Entrada com cache hit custa US$ 0,30 por 1 milhão de tokens, entrada sem cache hit custa US$ 3 e a saída custa US$ 15
- Usa a arquitetura de inferência desacoplada da Mooncake, e a taxa de cache hit em tarefas de programação na API oficial passa de 90%
- O identificador do modelo é
- Kimi Enterprise
- Oferece proteção de dados e gestão de membros para organizações, separando completamente contas pessoais e organizacionais
Limitações
- Sensibilidade ao histórico de raciocínio
- O K3 foi treinado de uma forma que preserva o histórico de raciocínio anterior
- Se o harness de agente não reenviar todo o conteúdo do raciocínio anterior, ou se a sessão for trocada para o K3 depois de usar outro modelo, a qualidade da geração pode ficar bastante instável
- É recomendável usar o Kimi Code, cuja compatibilidade foi validada, e evitar trocar de modelo no meio da sessão
- Ação antecipada excessiva
- Como foi treinado com foco em tarefas longas e difíceis, ao enfrentar problemas pequenos ou intenções ambíguas do usuário, pode tomar decisões inesperadas em nome do usuário
- Aplicações que precisem limitar o escopo de ação devem incluir restrições mais explícitas no prompt de sistema ou em
AGENTS.md
- No geral, é um modelo competitivo, mas ainda há uma lacuna clara na experiência do usuário em relação a Claude Fable 5 e GPT 5.6 Sol
1 comentários
Opiniões do Hacker News
Como prova de conceito inicial, é impressionante que o Kimi K3 tenha projetado um chip para rodar um nano modelo da sua própria arquitetura
Em uma única execução autônoma de 48 horas, concluiu projeto, otimização e verificação usando ferramentas EDA open source e a biblioteca Nangate 45nm, atendendo timing de 100MHz em 4mm² e alcançando, em simulação, throughput de decodificação acima de 8.700 tokens por segundo
Incluiu 1,46 milhão de células padrão, 0,277MB de SRAM e até um array INT4 MAC com suporte a dequantização inversa fundida, mostrando capacidade de trabalho de longo prazo em que um modelo fez um chip para modelo
Se você pretende se cadastrar diretamente no Moonshot e usar o serviço, vale saber que os dados de uso da API também podem ser usados para treinamento
Está especificado que o conteúdo do cliente pode ser usado para fornecer, manter e melhorar o serviço, além de treinar modelos, e que, para restringir isso, é necessário um contrato empresarial separado ou um acordo por escrito
https://platform.kimi.ai/docs/agreement/modeluse#4-content
Num negócio que pega propriedade intelectual, adiciona verificações de segurança e revende, pode até ser ingênuo perguntar se os dados de uso são usados para treinamento; pelo menos as empresas chinesas parecem ser mais abertas sobre isso e devolver mais à comunidade
Fico curioso se eles realmente têm um acordo de retenção zero de dados ou se é uma classificação errada do OpenRouter
Mesmo que digam que não usam, é duvidoso que algum deles realmente abra mão disso nessa disputa competitiva capaz de virar o jogo
O uso detalhado e os preços podem ser vistos nos documentos abaixo
https://platform.kimi.ai/docs/guide/kimi-k3-quickstart
https://platform.kimi.ai/docs/pricing/chat-k3
Suporta janela de contexto de 1 milhão de tokens e custa $3 de entrada, $15 de saída e $0,3 de cache por 1 milhão de tokens, o que é muito caro para um modelo chinês de pesos abertos
Na prática é quase o mesmo preço da linha Anthropic Sonnet e também parecido com os $2,5 de entrada do 5.6 Terra, mas o custo real depende muito da eficiência de inferência
Por exemplo, se o Sol usa 10 mil tokens de inferência a $30/1 milhão de tokens e o Kimi K3 usa 50 mil para a mesma tarefa, o Sol acaba tendo melhor custo-benefício
https://mp.weixin.qq.com/s/V4xhEIy8xDXSMDPrPkmUAQ
Um blog em inglês também foi publicado: https://www.kimi.com/blog/kimi-k3
Mesmo para o mesmo texto, o tokenizer da Anthropic pode codificar em muito mais tokens do que o da OpenAI
Considero que o concorrente real da Kimi é o GLM, e o GLM 5.2 custa menos de um terço disso
Já o Kimi mostra uma parte substancial do processo completo de inferência, então dá para ver diretamente desvios estranhos e mudanças de direção, além de depurar ideias com muito mais profundidade
Também parece ter avançado bastante em tópicos pessoais de nicho que outros LLMs não conseguiam resolver, então pretendo testar mais
Se for lançado como open source, talvez possa cair para algo em torno de $10~12 por 1 milhão de tokens
Na avaliação da própria Kimi, o K3 fica atrás apenas do Claude Fable 5 e do GPT-5.6 Sol em inteligência geral, e um relatório técnico com os pesos completos, arquitetura, treinamento e avaliação deve ser publicado em breve
Com 1687 pontos no GDPval-AA v2, fica atrás apenas do Claude Fable 5 Max e do GPT-5.6 Sol Max, e acima dos 1600 pontos do Claude Opus 4.8 Max
No AA-Briefcase, um benchmark privado de trabalho de conhecimento de longo prazo, marcou 1527 pontos, ficando atrás apenas do Fable 5 Max e à frente dos 1495 pontos do GPT-5.6 Sol Max, o que talvez seja mais um momento ao estilo DeepSeek
Agora que todos os modelos de pesos abertos estão apresentando pontuações surpreendentes, não dá mais para entender o todo só por benchmarks, e fica difícil não suspeitar que os dados de avaliação vazaram para o treinamento ou foram incluídos de propósito
O K3 é só cerca de 2 vezes mais barato que o Sol, então isso fica perto da diferença de eficiência de tokens e da margem de erro; parece mais uma continuação da tendência de modelos abertos alcançando laboratórios de ponta do que um evento que muda a tendência em si, como o DeepSeek
Resultado do SVG do pelicano feito com a API da OpenRouter: https://tools.simonwillison.net/markdown-svg-renderer#url=ht...
O modelo usado foi https://openrouter.ai/moonshotai/kimi-k3, e custou 25 centavos para 95 tokens de entrada e 16.658 tokens de saída
https://www.llm-prices.com/#it=95&ot=16658=3&oc=15
Desses, 13.241 tokens de saída foram tokens de raciocínio, tornando este o pelicano renderizado por um modelo chinês mais caro até agora
O Kimi K3, com 2,8 trilhões de parâmetros, lidera a lista dos maiores modelos abertos
A ordem é Kimi K3 2.8T, DeepSeek-V4-Pro 1.6T (49B ativos), Kimi K2.6 cerca de 1T (32B ativos), GLM-5.2 754B (40B ativos), DeepSeek-V3.2 685B, Mistral Large 3 675B
É um modelo absurdamente grande, então a Moonshot provavelmente precisa dos US$ 500 milhões que teria captado no início deste ano para operá-lo
Fico curioso se existe alguma forma de testar o Kimi K3 sem usar conta do Google nem fornecer número de telefone
O blog do Kimi K3 foi publicado: https://www.kimi.com/blog/kimi-k3
Como modelo aberto de 2,8 trilhões de parâmetros, ele oferece suporte nativo a contexto de 1 milhão de tokens e entrada visual, e o relatório técnico e os pesos devem ser publicados até 27 de julho
No lançamento, a intensidade máxima de raciocínio vem ativada por padrão, e os modos baixo e alto serão adicionados em atualização futura
Talvez tenha acabado a era em que a China ficava 6 meses atrás dos EUA; fico me perguntando como conseguem resultados assim com muito menos recursos, e os pesquisadores parecem extraordinários
Na primeira tentativa, o Kimi K3 encontrou imediatamente a causa de um bug que nem o Fable 5 conseguiu achar depois de várias tentativas
Ainda é só um caso isolado com pouco uso, mas até aqui parece muito promissor
A velocidade com que a cota da assinatura de US$ 100 se esgota parece semelhante à da assinatura de US$ 200 da Anthropic usada pelo Fable, mas o modelo em si é excelente, a ponto de talvez eu avaliá-lo acima do Opus 4.8
Também queria saber se existe alguma ferramenta parecida na OpenRouter
Como o blog em inglês foi publicado, talvez seja melhor substituir o link existente por https://www.kimi.com/blog/kimi-k3