Kimi K2 Thinking, modelo open source de inferência com trilhão de parâmetros e desempenho SOTA

• Kimi K2 Thinking é um modelo open source de inferência que utiliza ferramentas e raciocina passo a passo, implementando um processo de pensamento em nível humano na resolução de problemas complexos
• Alcançou o estado da arte (SOTA) em benchmarks importantes como Humanity’s Last Exam(HLE), BrowseComp e SWE-Bench Verified
• Executa até 200~300 chamadas consecutivas de ferramentas e, por meio de test-time scaling, expande simultaneamente os tokens de raciocínio e as etapas de chamada de ferramentas
• Mostra desempenho de destaque em raciocínio, busca e programação agentic, resolvendo problemas complexos de matemática, código e navegação na web com planejamento de longo prazo
• Com eficiência de inferência baseada em quantização INT4, alcança ganho de 2x em velocidade e redução do uso de memória de GPU, garantindo eficiência de nível máximo entre os grandes modelos open source

---

Introdução ao Kimi K2 Thinking

• Kimi K2 Thinking é o modelo open source de pensamento com melhor desempenho lançado pela Moonshot AI
  • Arquitetura de "thinking agent" que realiza raciocínio passo a passo mesmo durante o uso de ferramentas
  • Registrou desempenho SOTA em HLE, BrowseComp e outros
• Por meio de test-time scaling, expande simultaneamente a quantidade de tokens de raciocínio e as etapas de chamada de ferramentas
• Atualmente está disponível no modo de chat do kimi.com, e o modo agentic completo será lançado em breve
• Pode ser integrado externamente por meio de API

Resultados de avaliação

• Obteve 44.9% em HLE (uso de ferramentas), 60.2% em BrowseComp e 71.3% em SWE-Bench Verified
• Comprovou capacidade consistente de generalização na resolução de problemas de nível profissional em múltiplas áreas
• Apresentou melhora de desempenho em raciocínio, busca e programação agentic em relação aos modelos anteriores

Raciocínio agentic (Agentic Reasoning)

• Alcançou o melhor resultado, 44.9%, em Humanity’s Last Exam(HLE)
  • Benchmark fechado que inclui problemas de nível especialista em mais de 100 áreas acadêmicas
  • Uso combinado de ferramentas de busca, Python e navegação web
• Apresenta um caso de resolução de problema matemático de nível doutorado alternando 23 etapas de raciocínio e chamadas de ferramentas
• Torna possível resolver problemas acadêmicos complexos por meio de centenas de etapas de planejamento, raciocínio, execução e adaptação

Programação agentic (Agentic Coding)

• Registrou SWE-Multilingual 61.1%, SWE-Bench Verified 71.3% e Terminal-Bench 47.1%
• Alto grau de qualidade em tarefas focadas em componentes de frontend como HTML e React
• Executa fluxos de trabalho de desenvolvimento em múltiplas etapas por meio de chamadas de ferramentas, oferecendo suporte à geração de código precisa e flexível
• Apresenta casos de criação de aplicações complexas, como sites e editores de documentos, a partir de um único prompt

Busca e navegação agentic (Agentic Search and Browsing)

• Com 60.2% em BrowseComp, supera amplamente a referência humana (29.2%)
  • Comprova capacidade de coleta e raciocínio sobre informações da web em tempo real
• Executa 200~300 chamadas consecutivas de ferramentas, implementando planejamento de longo prazo e raciocínio adaptativo
• Por meio do loop repetitivo “pensar → buscar → usar o navegador → pensar → programar”,
  decompõe problemas complexos e abertos em subtarefas estruturadas

Capacidades gerais (General Capabilities)

• Escrita criativa: geração de narrativas com riqueza de expressão e profundidade emocional
• Escrita prática: melhoria da estrutura lógica e da precisão nas instruções, adequada para conteúdo acadêmico e de pesquisa
• Respostas emocionais: oferece conselhos empáticos e concretos, reforçando um equilíbrio mais humano

Eficiência de inferência (Inference Efficiency)

• Aplicação de quantização apenas dos pesos com INT4 (QAT), com ganho de 2x em velocidade e redução de memória
• Mantém um processo de pensamento preciso mesmo em inferência em grande escala, sem queda de desempenho
• Todos os resultados de benchmark são reportados com base em precisão INT4

Comparação geral de desempenho

• Em benchmarks importantes, apresenta desempenho equivalente ou superior a GPT‑5, Claude Sonnet 4.5 e DeepSeek‑V3.2
• Alcança nível máximo entre modelos open source em Reasoning, Coding e Agentic Search

---

Resumo:
Kimi K2 Thinking é um modelo open source de inferência com escala de trilhão de parâmetros que realiza raciocínio passo a passo com base em ferramentas,
alcançando simultaneamente desempenho e eficiência em nível SOTA na resolução de problemas complexos e na execução de planejamento de longo prazo.

[GN⁺]

Comentários do Hacker News

• Instalaram o modelo Moonshot Kimi-K2-Thinking com uv tool install llm e geraram um SVG com o comando llm -m moonshot/kimi-k2-thinking 'Generate an SVG of a pelican riding a bicycle'
  O resultado pode ser visto neste link
  O resultado executado com moonshotai/kimi-k2-thinking no OpenRouter saiu muito mais elaborado, como nesta versão

  • O resultado do OpenRouter parece ter vindo de um provedor de hospedagem quantizado (quantized)
    Em comparação com a chamada direta da API da Moonshot, a diferença é praticamente de água para vinho
    Como o OpenRouter impõe restrições de quantização por API, e não por conta, a experiência do usuário fica um pouco confusa
  • É interessante como esse benchmark vai ficando cada vez mais simbólico a cada novo modelo
    O desempenho da família GPT-5 ainda parece difícil de acreditar, mas é bom ver os modelos open source fazendo tentativas cada vez mais ambiciosas
  • Fiquei curioso se, na execução, a temperature foi fixada em 0 para manter a consistência
  • Fico me perguntando onde exatamente estão rodando um modelo de 1 trilhão de parâmetros

• É bom haver mais concorrência e mais open source, mas me interessa mais ver até onde uma combinação de LLM pequeno + agentes consegue ir em codificação e raciocínio do que esses modelos gigantes
  O ideal seria algo que pudesse rodar localmente ou em um cluster barato
  O objetivo original da OpenAI era beneficiar toda a humanidade, mas agora ela mudou para uma estrutura centrada em pagamento, o que é uma pena, porque acaba beneficiando mais os ricos

  • Já existem muitos experimentos com modelos pequenos desse tipo
    Mas os resultados ainda são insuficientes, e, se fosse possível criar modelos pequenos eficientes, não haveria motivo para os modelos grandes existirem
    Claro, esse quadro pode mudar se surgirem novas ideias
  • Eu também já fui obcecado pelo “modelo mais inteligente”, mas, usando na prática, percebi que modelos pequenos fazem o mesmo trabalho muito mais rápido
    Então agora meu objetivo é encontrar “o menor modelo que consiga resolver meu trabalho”
    Pontuações altas em benchmark acabam parecendo mais um sinal de especificação excessiva e desperdício
  • Se é “open source”, então deveria incluir os dados de treinamento para download e scripts para retreinamento end-to-end
    Distribuir só binários de inferência e chamar isso de open source é um uso incorreto do termo
  • Não entendo por que não aparecem modelos ultrapequenos por especialidade
    Por exemplo, para quem só usa Go, bastaria um modelo de Go
    Uma arquitetura em que vários modelos especializados fossem trocados na memória pareceria muito mais eficiente
    Mesmo assim, a maioria ainda persegue grandes modelos generalistas
    Eu só usei assinatura do CoPilot e Ollama, mas acho que, no futuro, o padrão será uma combinação de vários modelos na faixa de 1~2B
  • Na prática, a evolução dos modelos grandes veio principalmente de otimização e escalonamento
    Mas essas técnicas acabam levando a melhorias de desempenho em modelos pequenos
    DeepSeek é um bom exemplo: a inovação dos modelos grandes também beneficia os pequenos
    Vale lembrar que este modelo usa uma arquitetura MoE, com apenas 32 bilhões de parâmetros ativados por vez

• Nos últimos meses, quatro empresas chinesas (DeepSeek, Qwen/Alibaba, Kimi/Moonshot, GLM/Z.ai) lançaram excelentes modelos open source
  Não há movimento parecido de empresas dos EUA ou da Europa, nem mesmo da Meta. Por quê?

  • Claro, a OpenAI também lançou o GPT-OSS em agosto
    Eu também gosto do Qwen 235, mas a definição de “open source” — se é apenas open weights ou abertura total — ainda continua pouco clara
  • As empresas chinesas têm acesso restrito às GPUs mais recentes, então adotam a estratégia de liberar em open source
    Já as empresas americanas evitam isso porque precisam recuperar seus enormes investimentos em GPU
  • Outra razão é que há poucos clientes pagantes por causa de preocupações com privacidade
    No fim, não sobra muita opção além de liberar de graça
  • A Meta parece ter abandonado a estratégia de open weights depois do DeepSeek

• O exemplo parece um pouco escolhido a dedo (cherry-picked), mas ainda assim impressiona
  Como alguém que já colocou modelos OSS em workflow, conheço bem as limitações, mas esse resultado está em um nível que até modelos de fronteira teriam dificuldade
  Dá expectativa para o que vem pela frente

  • Pessoalmente, o Kimi me parece um modelo muito mais “inteligente” na prática do que os benchmarks sugerem
    Talvez porque ele tenha sido menos ajustado para “tirar nota” do que os laboratórios americanos

• Pela tabela de preços do OpenRouter, custa US$ 0,60 por 1 milhão de tokens de entrada e US$ 2,50 de saída
  Com esse nível de desempenho, ele sai 4 vezes mais barato que modelos equivalentes; fico pensando se estão hospedando no prejuízo ou se os outros modelos é que têm margens muito altas

  • Excluindo o custo de treinamento, os outros modelos estão deixando margens bem altas
    Veja este texto para mais detalhes
  • Os modelos open source do OpenRouter são cobrados praticamente no custo do hardware
    Alguns rodam em infraestrutura subsidiada, então talvez ainda haja lucro real

• Só este modelo resolveu recentemente o “problema de empilhamento” de forma parecida com a de um humano
  O ponto central, segundo este texto relacionado, foi entender o conceito de distribuir a carga com 9 ovos

  • Mas alguém apontou que “talvez esse problema em si já estivesse incluído nos dados de treinamento”
  • Outro usuário compartilhou um exemplo de conversa real mostrando o modelo chegando, após várias rodadas de feedback, a uma configuração de empilhamento fisicamente possível
    No fim, ele organizou tudo na ordem “livro → garrafa → notebook → prego” e deu uma resposta realista

• Fico em dúvida sobre o que exatamente é um “reasoning model”
  É só um modelo que usa tokens de scratchpad dinamicamente no prompt de sistema, ou é um modelo fine-tuned dessa forma?

  • É o segundo caso. Ou seja, significa um modelo fine-tuned para aprender o processo intermediário de pensamento
    Isso é muito mais eficaz do que apenas imitar esse comportamento via prompt
  • Em geral, refere-se a modelos que realizam pensamento interno dentro de tokens como <think></think> antes de responder
    Esse formato é treinado com RL ou aprendizado por recompensa baseado em formato

• A versão non-thinking tem a melhor qualidade de escrita
  Parece empolgante ver uma abordagem nova, diferente da dos outros laboratórios de fronteira

  • Eu senti o contrário. Gosto dele por ser o maior modelo que consigo rodar em casa, mas a saída estruturada demais acaba parecendo artificial
    É uma pena que não pareça tão diferente da versão anterior
  • Ainda assim, o Kimi K2 transmite uma sensação de modelo refinado e bem acabado

• Seria bom poder usar isso no AWS Bedrock ou no Google Vertex com garantia de residência de dados (data residency)

  • Como no modelo anterior, os pesos foram publicados, então provavelmente ele logo aparecerá também em hospedagens de terceiros
    Link do Hugging Face
  • A versão non-thinking já está listada no Vertex AI
    Este modelo destaca uso sequencial de ferramentas e desempenho de needle-in-a-haystack RAG, que são justamente os pontos mais necessários no uso profissional real
    Aliás, a Thoughtworks recentemente moveu text-to-sql para Hold

• Já está disponível também no OpenRouter

  • Só que, no momento, a latência está alta