2 pontos por GN⁺ 4 시간 전 | 2 comentários | Compartilhar no WhatsApp
  • Os modelos com pesos abertos chegaram a um nível parecido com os fechados em codificação, seguimento de instruções e conhecimento geral, e o custo de inferência também caiu 50 vezes em 36 meses, deslocando o centro da competição do modelo em si para os harnesses de agentes
  • Em meados de 2026, os pesos abertos já respondiam por mais da metade do throughput de tokens no OpenRouter, e os 5 modelos mais usados também eram todos abertos, mas em raciocínio, recuperação em contexto longo e tarefas de agentes ainda restava uma lacuna média de capacidade de 3,3% em relação aos fechados
  • 79% dos desenvolvedores que adicionam recursos de IA usam modelos abertos, mas a taxa de chegada à produção é de 51%, abaixo dos 63% dos fechados, de modo que padronização, ferramentas de implantação e confiabilidade operacional continuam sendo os principais gargalos
  • O ecossistema, incluindo Databricks, Mistral AI e DeepSeek, garantiu receita e investimentos em grande escala, e o self-hosting converte custos variáveis por token em custo fixo, mas, à medida que o preço dos modelos cai, a captura de valor migra para camadas superiores como plataformas e harnesses
  • A próxima disputa vai depender de quem controla harnesses, memória, permissões de escrita e governança; para manter a abertura, será preciso construir harnesses neutros e padrões portáveis de permissões e evitar dependência de modelos, fornecedores ou países específicos

IA própria, não alugada

  • A IA aberta permite que os usuários tenham posse direta dos modelos e dos dados em áreas difíceis de “alugar” por meio de APIs fechadas, como idiomas com pouco mercado, serviços locais offline, hardware próprio e infraestrutura pública
    • Uma emissora Māori no norte da Nova Zelândia treinou um modelo de voz em te reo com uma licença que mantém os dados dentro da comunidade
    • A PwC ajusta um modelo aberto para a linguagem financeira e o opera em hardware próprio para centenas de clientes, sem pagar por token
    • Pesquisadores de Lausanne criaram um modelo médico aberto alinhado à Red Cross e a diretrizes humanitárias, e preparam testes clínicos em seu país e na Tanzânia
    • Agricultores da África Oriental executam em seus celulares um modelo offline de diagnóstico de doenças da mandioca em plantações sem acesso à nuvem
    • Um consórcio público da Suíça treinou um modelo nacional em um supercomputador público e divulgou pesos, dados e código de treinamento
  • Assim como a Mozilla surgiu para impedir que uma única empresa monopolizasse o portal da web, a IA também precisa de concorrência, interoperabilidade e liberdade para trocar de fornecedor
  • O objetivo não é escolher um único modelo, e sim criar uma estrutura que conecte vários modelos de forma padronizada e permita mudar de fornecedor a qualquer momento

Capacidade e uso de pesos abertos

  • No Chatbot Arena, a diferença entre modelos abertos e fechados encolheu de 8,04% para 0,5% desde janeiro de 2024, antes de voltar a subir para 3,3% em março de 2026
    • Em agosto de 2024, a diferença caiu para 0,5%, e em fevereiro de 2025 o DeepSeek-R1 chegou temporariamente a empatar com o melhor modelo dos EUA
    • Com os modelos fechados de raciocínio assumindo a dianteira, a diferença média voltou a crescer, mas os modelos abertos estão no mesmo nível ou próximos em codificação, seguimento de instruções e conhecimento geral
    • A lacuna restante se concentra em raciocínio, recuperação em contexto longo e tarefas de agentes
  • O preço de inferência por 1 milhão de tokens de um modelo do nível do GPT-4 caiu 50 vezes, de 20 dólares para 0,40 dólar, ao longo de 36 meses
    • A Stanford HAI calculou que os preços do nível GPT-3.5 caíram 280 vezes em 18 meses
    • A Epoch AI estima quedas anuais de 9 a 900 vezes, e um estudo do MIT de novembro de 2025 estima que os preços de ponta, ajustados pelo efeito do hardware, caem de 5 a 10 vezes por ano
  • No OpenRouter, a participação dos pesos abertos no volume de tokens cresceu de um nível mínimo para cerca de um terço no fim de 2025 e para mais da metade em meados de 2026
    • Isso representa uma vantagem em throughput de tokens; em número de requisições, fornecedores fechados dos EUA ainda seguem na frente
    • O uso de modelos abertos se concentra em workloads de codificação e agentes
  • No último mês, os 5 modelos com maior throughput no OpenRouter eram todos de pesos abertos
    • A ordem é DeepSeek V4 Flash 18.4T, Xiaomi MiMo-V2.5 14.9T, Tencent Hy3 preview 14.8T, MiniMax M3 14.3T e Owl Alpha 11T, de origem não divulgada
    • Na sequência vêm Anthropic Claude Opus 4.7 9.02T, DeepSeek V4 Pro 8.55T, Claude Sonnet 4.6 7.33T, Claude Opus 4.8 6.18T e DeepSeek V3.2 4.31T
  • Em meados de 2026, o throughput semanal dos 9 principais modelos era de cerca de 18T para modelos chineses e cerca de 5,5T para modelos dos EUA, mais de 3 para 1; desenvolvedores que fazem roteamento com base em custo tendem a escolher pesos abertos

Alta adoção e baixa conversão para produção

  • Na pesquisa com desenvolvedores de 2026 da Mozilla e da SlashData, 79% dos desenvolvedores que adicionam recursos de IA usam modelos abertos, e 71% usam modelos fechados
    • 29% usam apenas modelos abertos, e 21% usam apenas modelos fechados
    • Metade, ou 50%, usa os dois tipos juntos, então os dois não são substitutos perfeitos para a maioria das equipes
  • A taxa de adoção de modelos abertos é mais alta na Grande China e no Leste Asiático, com 89% em cada um, seguidos por Europa Ocidental com 70% e América do Sul com 66%
    • As únicas regiões em que a adoção de modelos fechados supera a de abertos são a Europa Ocidental e a América do Sul
  • A taxa de chegada à produção ainda mostra diferença: 51% para equipes com modelos abertos e 63% para equipes com modelos fechados
    • Em pequenas empresas, os números são 54% para fechados e 53% para abertos
    • Em empresas de médio porte, 66% e 55%, respectivamente; em empresas com 1.001 funcionários ou mais, 73% e 57%
    • À medida que o tamanho da organização cresce, a taxa de implantação dos fechados sobe de 54% para 73%, enquanto a dos abertos quase não muda, de 53% para 57%, mostrando que só os recursos corporativos não resolvem o gargalo de implantação dos abertos
  • As maiores diferenças entre desenvolvedores que abandonaram modelos abertos e os que continuam usando são insuficiência de desempenho do modelo +12 p.p., integração com sistemas existentes +11 p.p. e manutenção e atualização +10 p.p.
    • Falta de documentação, implantação, hospedagem e escalabilidade, além de avaliação e comparação de modelos, ficam em +8 p.p. cada
    • Fine-tuning e customização ficam em +4 p.p.; não há diferença em custo de infraestrutura nem em segurança, privacidade e conformidade regulatória, e falta de suporte especializado aparece em -2 p.p.
    • Os fatores que levam ao abandono se concentram mais em integração, operação e manutenção do que em capacidade pura do modelo
  • Ao analisar por região 1.410 desenvolvedores atuais ou antigos de modelos abertos, os principais obstáculos no total são custo de infraestrutura e computação 27%, segurança, privacidade e conformidade regulatória 26%, manutenção 24%, implantação, hospedagem e escalabilidade 23% e falta de suporte especializado 22%
    • No Sul da Ásia, segurança e conformidade regulatória chegam a 39%, e suporte especializado a 31%, ambos particularmente altos
    • Apenas a América do Norte, com 21%, e a Grande China, com 16%, tiveram mais de 15% de respostas dizendo não haver problemas significativos
    • A amostra da Oceania, com 39 pessoas, e a da Europa Oriental e CEI, com 98, são menores do que o limiar considerado confiável

Lacuna operacional da stack aberta de IA

  • O mapa da stack de junho de 2026 da Mozilla avalia 9 camadas, 48 componentes e 1.361 projetos com notas de 1 a 5 em 10 critérios de maturidade
  • A capacidade em si é alta, mas em quase todas as camadas e componentes os níveis mais baixos aparecem em padronização e prontidão para operação corporativa
  • O gargalo comum da stack aberta não é a qualidade do modelo, e sim padronização e prontidão para operação corporativa; ferramentas de implantação, integração, suporte e governança ainda não estão maduras

Estrutura de custos e viabilidade de negócios da IA open source

  • A IA de pesos abertos cresceu e se tornou um mercado comercial de centenas de bilhões de dólares, e os cinco modelos de receita comprovados são inferência hospedada, plataformas empresariais, licenciamento on-premises, serviços de fine-tuning e ferramentas de harness
  • As principais empresas avançam em investimento, receita e preparação para abertura de capital
    • A Databricks ultrapassou US$ 5,4 bilhões em receita anualizada e ainda está em fase pré-IPO
    • A DeepSeek registra cerca de US$ 220 milhões em receita recorrente anual (ARR), US$ 7,4 bilhões em investimentos públicos e avaliação acima de US$ 50 bilhões
    • A Mistral AI cresceu 20 vezes em 12 meses e chegou a cerca de US$ 400 milhões de ARR; seus investimentos públicos somam US$ 3,05 bilhões, sua avaliação é de cerca de US$ 14 bilhões, e também negocia um aporte na faixa de 20 bilhões de euros
    • A Moonshot AI levantou US$ 3,9 bilhões; Reflection AI e Cerebras, cerca de US$ 2,1 bilhões cada; Cohere, US$ 1,7 bilhão; e Together AI, US$ 1,334 bilhão
    • Baseten garantiu US$ 585 milhões em investimentos públicos; Black Forest Labs, US$ 450 milhões; Hugging Face, US$ 400 milhões; Modular, US$ 380 milhões; Fireworks AI, US$ 327 milhões; Anyscale, US$ 281 milhões; LangChain, US$ 260 milhões; e Stability AI, US$ 230 milhões
    • Zhipu AI e MiniMax não divulgaram o total de investimentos públicos e abriram capital por meio de IPO em Hong Kong em 2026
    • Nvidia, Salesforce, AMD, Google, IBM, ASML, Tencent, CATL e Schwarz Group também apoiam empresas das camadas de modelos, inferência e ferramentas
  • A Cohere opera negócios corporativos e on-premises e, em maio de 2026, lançou o Command A+ como open source; a LangChain registrou mais de 126.000 estrelas no GitHub e participação de 60% entre desenvolvedores
  • Em uso em larga escala, a cobrança por token dos modelos fechados acaba virando um problema de orçamento
    • A Microsoft cancelou a maior parte das licenças do Claude Code até 30 de junho de 2026, depois que as taxas por token consumiram em poucos meses o orçamento anual de IA, e passou a avaliar o DeepSeek V4 hospedado no Azure com segurança reforçada para cargas pesadas do Copilot
    • A Uber esgotou todo o orçamento de IA para programação de 2026 em quatro meses e depois limitou o gasto mensal a US$ 1.500 por ferramenta e por funcionário
    • A Stripe atende 50 milhões de chamadas de API por dia com modelos abertos no vLLM usando um terço da quantidade anterior de GPUs e reduziu os custos de inferência em 73%
    • O self-hosting de pesos abertos transforma custos operacionais variáveis controlados pelo fornecedor em custos fixos sob propriedade da empresa
  • Entre maio e setembro de 2025, os modelos abertos representaram cerca de 20% do uso no OpenRouter, mas ficaram com apenas cerca de 4% da receita da camada de modelos
    • Em capacidade semelhante, o preço por chamada dos modelos fechados era cerca de 6 vezes maior
    • O estudo Nagle–Yue, da Linux Foundation, estima que essa diferença de preço representa cerca de US$ 24,8 bilhões por ano em economia potencial não realizada
    • Mesmo com o aumento do uso de modelos abertos, se a camada de modelos virar commodity, a receita se acumula nas camadas superiores, como plataformas e harnesses

Soberania nacional e possibilidade de saída do fornecedor

  • Com mais de 70 estratégias nacionais de IA em vigor, o foco das políticas deixou de ser se um país tem ou não uma estratégia nacional e passou a ser qual camada da stack ele consegue possuir
  • O caso em que a Anthropic bloqueou o acesso de estrangeiros no mundo todo por ordem de exportação de um governo, três dias após o lançamento do Claude Fable 5 em junho de 2026, expôs o alcance do controle do fornecedor
    • Como a conformidade seletiva era impossível, às 17h21 de uma sexta-feira todos os modelos dos alvos foram interrompidos, e os usuários que dependiam deles foram afetados sem aviso prévio
    • O fornecedor pode desligar modelos hospedados, mas não pode desligar remotamente cópias dos pesos em execução em equipamentos que pertencem ao usuário
    • Para empresas, pesos salvos em disco são uma forma de mitigação de risco; para países, isso marca a diferença entre política independente e depender de autorização externa
  • A dependência de fornecedor na era da nuvem já mostrou custos elevados de saída
    • O custo para retirar 1 PB do AWS S3 é de US$ 90 mil a US$ 120 mil
    • 80% das empresas estão trazendo workloads de volta para seus próprios ambientes
    • A 37signals saiu da nuvem e reduziu o custo anual de US$ 3,2 milhões para menos de US$ 1 milhão
    • Os custos de nuvem da GEICO ficaram 2,5 vezes acima do planejado
    • Sistemas construídos sobre APIs proprietárias também acabam aceitando integralmente mudanças de preço e têm dificuldade para sair de forma limpa; por isso, pesos abertos oferecem o direito de deixar o fornecedor
  • Em março de 2026, os downloads acumulados no Hugging Face chegaram a 942 milhões para o Alibaba Qwen e 476 milhões para o Meta Llama, tornando a China a maior fornecedora de pesos abertos
    • Em fevereiro de 2026, o Qwen foi mais baixado do que as oito organizações seguintes somadas
    • A participação dos tokens de modelos chineses de pesos abertos no OpenRouter subiu de menos de 2% no fim de 2024 para mais de 45% do tráfego semanal em abril de 2026, e ficou em cerca de 61% entre os 10 modelos mais usados
    • A DeepSeek tem mais de 26.000 contas corporativas, e 58% das startups de IA criadas em 2025 a incluíram em sua stack, mas pelo menos 8 jurisdições restringem seus serviços hospedados
    • As empresas conciliam as duas decisões ao proibir apps hospedados e, ao mesmo tempo, usar os pesos com self-hosting ou por endpoints ocidentais
  • A disseminação do open source da China é uma política incluída na AI Plus Initiative do State Council em agosto de 2025 e no Five-Year Plan nacional de março de 2026
    • Pesos públicos também servem para responder aos controles de exportação de semicondutores e para distribuir a carga de inferência para o hardware local de usuários no mundo todo
    • No Sul Global, há demanda por diversificar fornecedores e escapar do monopólio tecnológico dos EUA; em outras regiões, o principal motivador é o custo

Os harnesses de agentes se tornaram uma nova camada competitiva

  • Assim como o navegador era o agente do usuário da web aberta que negociava com servidores em nome do usuário, o harness de agentes sobre o modelo passa a cuidar de orquestração, ferramentas, memória, sandbox e permissões
  • A pilha de harnesses é composta por várias camadas, do modelo até o usuário e a governança
    • Camada de controle: LangGraph, CrewAI, AutoGen e LlamaIndex transformam o modelo em agente com um loop iterativo de raciocínio e ação
    • Camada de conexão: MCP cuida de ferramentas e contexto, A2A da comunicação entre agentes, e Mem0, Letta e Zep da memória
    • Camada de ação: E2B, Daytona e Modal oferecem sandbox e execução, enquanto permissões e identidade ainda seguem como uma área de escrita não resolvida
    • Camada de avaliação e observabilidade: Langfuse e Phoenix rastreiam resultados de execução e comportamento
    • Camada de usuário e pagamentos: AG-UI e A2UI cuidam da interface, enquanto x402, AP2 e UCP ficam com pagamento e medição
    • Camada de governança: Meta-harness, Omnigent, OPA e Agent governance toolkit integram políticas baseadas em estado, registro, linhagem, orçamento e cancelamento entre vários harnesses
  • O MCP chegou, no primeiro ano, a 97M de downloads mensais de SDK e mais de 10.000 servidores ativos, cresceu 4.750% em 16 meses e foi doado em dezembro de 2025 à Agentic AI Foundation da Linux Foundation
    • Entre as empresas, apenas cerca de 21% têm governança de agentes madura, o que mostra que a adoção avança mais rápido que os mecanismos de controle
  • Integração vertical entre modelos e harnesses

    • No Terminal-Bench 2.0, em maio de 2026, um harness de terceiros marcou 79,8% com os mesmos pesos da Anthropic, ficando 21,8 p.p. à frente dos 58,0% do Claude Code
    • Oito semanas depois, no Terminal-Bench 2.1, o ranking se inverteu quando os laboratórios internalizaram o harness
    • A combinação Codex CLI com GPT-5.5 registrou 83,4%, e Claude Code com Claude 5 Fable marcou 83,1%
    • O melhor harness independente usando o mesmo Fable 5 ficou em 80,4%, reduzindo a diferença no topo para cerca de 3 p.p.
    • Em todos os modelos comparáveis, os harnesses dos próprios laboratórios superaram os independentes
    • Quando modelo e harness são otimizados juntos, o desempenho sobe, mas trocar por outro modelo reduz o resultado, criando dependência como subproduto da otimização
    • Os modelos abertos não aparecem no topo da validação oficial do Terminal-Bench 2.1 porque não há um harness primário para responder a isso
    • Em comparação num harness neutro, Claude Opus 4.8 marcou 71,9% a US$ 2,41 por tarefa, Opus 4.7 ficou em 68,5% a US$ 1,98, e o modelo aberto GLM 5.2 registrou 67,8% a US$ 0,43
    • O modelo aberto fica pouco abaixo do Opus 4.7 e cerca de 4 p.p. atrás do Opus 4.8, mas custa aproximadamente um quinto
    • Os dados de uso real gerados em harnesses dos laboratórios criam um flywheel de dados que retroalimenta o próximo modelo, e quem possui a própria stack pode reter diretamente esses mesmos dados
  • Permissões de escrita ainda não resolvidas

    • Leitura é reversível, como consulta a documentos, consultas a banco de dados e listas de agenda, e os resultados são relativamente pequenos, então pode ser permitida por padrão
    • Escrita, como envio de mensagens, execução de orçamento, modificação de registros e execução de transações, tem custo alto ou é irreversível, então confirmação, limiares de aprovação, limites de custo e recursos de cancelamento precisam se concentrar aí
    • Existem cerca de 12 frameworks, 10 harnesses e 3 protocolos entre pares, mas não há um modelo portátil de permissões de escrita que atravesse hosts MCP, pares A2A, chamadas diretas de ferramentas e fronteiras entre frameworks
    • A especificação MCP 2025-11-25 migrou a autenticação para OAuth 2.1, e o A2A v1.0 padronizou o Agent Card assinado, mas ambos param na autenticação de identidade
    • Mesmo confirmando a identidade, isso não determina o que o agente pode executar
    • O modelo de ameaças MCP da CoSAI classifica a fadiga de consentimento, em que usuários aprovam distraidamente a maior parte dos pedidos de autorização, como a principal ameaça
    • Meta-harnesses como o Omnigent open source da Databricks rastreiam o estado da sessão e controlam a próxima escrita, em vez de depender de filtros de prompt de agentes individuais
    • Depois de baixar um pacote não verificado e tentar fazer push de código, por exemplo, pode-se exigir aprovação humana
    • Também é possível aplicar um teto de custos que pausa a sessão ao atingir um valor definido
    • A camada que controla a área de escrita sobre vários harnesses é o ponto onde um modelo sustentável de permissões pode se formar
  • Segurança e a vantagem remanescente dos modelos fechados

    • Filtragem, monitoramento e cancelamento não dependem de pesos fechados, mas são funções da camada de serviço e de harness, e também podem ser aplicadas a modelos abertos em self-hosting
    • Em 2025, sistemas fechados de Anthropic, Microsoft, ServiceNow e Salesforce também tiveram vulnerabilidades de privilégio com CVSS 9,3 a 9,4
    • A NTIA analisou se o governo dos EUA deveria restringir pesos abertos e, ao fim, recomendou monitoramento em vez de restrições
    • Os sistemas fechados ainda mantêm vantagem em quatro áreas
      • harness integrado e o flywheel de dados por trás dele
      • a diferença entre os 89% do Gemini 3 em busca de múltiplas agulhas em contexto longo de 1 milhão de tokens e os 41% do DeepSeek V4-Pro
      • conformidade regulatória pronta para uso, com SOC 2, HIPAA e não retenção de dados incluídos por padrão
      • uma contraparte contratual que o cliente pode responsabilizar
    • Conformidade e responsabilização são um problema contratual, harness integrado é um problema de ferramentas, e fidelidade em contexto longo é um problema de modelo que os laboratórios abertos precisam resolver diretamente

Cinco investimentos para manter a abertura

  • Construir harnesses abertos: é preciso criar harnesses genéricos ou setoriais coconcebidos com pesos abertos, como Codex e GPT-5.5
    • Este é o momento para construir antes que laboratórios fechados combinem totalmente modelo e harness em um único produto alugado
  • Possuir a memória: à medida que o preço dos pesos se aproxima de zero, o modelo vira um componente substituível e a memória com contexto acumulado se torna um ativo que cresce em juros compostos
    • Ela deve ser armazenada atrás do próprio firewall em um formato portátil e append-only, porque, depois que o acesso acaba, não é possível restaurar anos de contexto
  • Resolver permissões portáteis: é preciso um padrão que diferencie escrita permitida sem supervisão, escrita com aprovação humana e escrita proibida ao longo de MCP, A2A, chamadas diretas de ferramentas e fronteiras entre frameworks
    • Se um padrão aberto não surgir enquanto políticas de escrita baseadas em estado de meta-harnesses estão se formando, plataformas fechadas definirão as regras
  • Sair do pay-per-token: é preciso comparar diretamente modelos fechados e abertos, manter um segundo modelo de prontidão atrás de uma interface aberta e fazer self-hosting onde a carga for previsível
    • Espera-se que os preços iniciais terminem por volta de 2027–2028, após listagem de fornecedores e esgotamento de descontos, então é preciso montar uma fonte dupla enquanto mudar ainda é fácil e barato
  • Definir múltiplos fornecedores como padrão: se o ecossistema se concentrar em um único fornecedor aberto, fica difícil tratá-lo como um recurso comum
    • 47 países restringem o processamento de dados no exterior, e mais de 70 estratégias nacionais estão em vigor
    • A Europa investe no EUROPA, o Canadá separou US$ 890 milhões, e a Índia designou 38.231 GPUs
    • Se o financiamento público não sustentar o desenvolvimento de longo prazo, até o ecossistema aberto pode convergir para uma fonte única

Sinais que precisam continuar sendo acompanhados

  • Capacidade e adoção: é preciso acompanhar a lacuna de capacidade de 3,3%, se há empate em coding, a diferença em raciocínio e agentes, e a participação dos tokens de agentic coding no OpenRouter
    • Se a participação de tokens abertos estagnar e a lacuna em raciocínio aumentar, a tendência atual se inverte
  • Harness: a diferença no Terminal-Bench entre harnesses de propriedade dos laboratórios e harnesses independentes, a governança de MCP e A2A sob a AAIF, e uma especificação de permissões portável que ainda não existe são pontos centrais
    • Se a vantagem dos harnesses dos laboratórios aumentar ou plataformas fechadas definirem primeiro o padrão de permissões, a camada aberta enfraquece
  • Estrutura de mercado: é preciso observar em conjunto ARR, investimentos, os IPOs da Zhipu e da MiniMax, o ponto de inflexão dos preços por uso em 2027–2028 e os investimentos estatais em computação soberana
    • Se o financiamento estatal secar ou a viabilidade econômica dos laboratórios abertos não ganhar escala, ficará difícil formar um mercado sustentável
  • Confiança e segurança: é preciso acompanhar a capacidade de uso indevido de open weights, a facilidade de remover fine-tuning de segurança, CSAM sintético e imagens íntimas não consensuais (NCII), além da política da NTIA de monitoramento em vez de restrições
    • Incidentes graves de uso indevido ou uma mudança de política para foco em restrições podem alterar o ambiente de distribuição aberta
  • Quando os atores responsáveis por abertura, portabilidade e distribuição ampla no processo de tomada de decisão em IA alcançarem status equivalente, o mercado passará de um modelo de aluguel de modelos para um modelo de propriedade direta

2 comentários

 
shakespeares 2 시간 전

Parece que estão voltando para a Loop Engineering de novo.

 
GN⁺ 4 시간 전
Comentários do Hacker News
  • Modelos abertos podem acabar derrubando a Anthropic e a OpenAI. Operadores de nuvem em megaescala podem rodar modelos sem custos de licença, e a Apple pode reduzir os modelos para executá-los diretamente no dispositivo
    Modelos de ponta são uma vantagem competitiva, mas também um passivo. O custo de treino é astronômico, mas se o desenvolvimento parar, o modelo é esquecido, e acaba-se dependendo de marketing para sustentar a crença de que cada modelo é significativamente diferente. Agora, é legítimo duvidar se há mesmo grandes diferenças entre os modelos, e parece que o elemento central para tornar modelos aleatórios e propensos a alucinações em algo determinístico e útil é o framework de execução

    • É um desfecho plausível, mas os modelos com pesos abertos das empresas chinesas parecem mais uma tática para superar a desvantagem de acesso aos mercados ocidentais do que uma escolha de princípio
      Se as condições de mercado mudarem, eles podem voltar a fechar tudo, como a Meta, e, se os custos de treino continuarem subindo, também é duvidoso se a estratégia de pesos abertos é financeiramente sustentável
    • Mesmo os modelos abertos, embora relativamente menores, provavelmente ainda têm custos de treino astronômicos. Há um forte incentivo para obter mais desempenho com menos computação, e é possível ganhar eficiência usando destilação de modelos de ponta
      Ainda assim, grandes organizações precisam colocar muito dinheiro e recursos computacionais e abrir mão de receita, e é difícil imaginar esse tipo de generosidade durando para sempre. A questão é o que quebra primeiro: o modelo de negócios dos modelos de ponta ou o investimento sem retorno dos perseguidores rápidos
    • O retorno sobre investimento por custo de token parece duvidoso para todos os modelos, mas os gastos já feitos são custos afundados
      Parece uma dinâmica em que o fracasso é inevitável se não se alcançar uma superinteligência autoaperfeiçoável. Se a superinteligência for alcançada, os modelos de ponta vão disparar à frente com crescimento exponencial mais rápido; caso contrário, os perseguidores rápidos vão esmagar os investimentos gigantescos e a capacidade de defesa desaparece. É parecido com a situação em semicondutores em que o silício, impulsionado pela Lei de Moore, não foi alcançado pelo GaAs, e também é difícil impor copyright
    • Por enquanto, por causa do custo de hardware, modelos open source provavelmente não serão práticos. Desenvolvedores hobbyistas e usuários entusiastas vão continuar usando, mas empresas de modelos de ponta com acesso ao hardware têm grande chance de dominar quase completamente o mercado
    • É discutível se o custo de treino dos modelos de ponta é mesmo astronômico. O GLM 5.2 foi treinado com cerca de 30 trilhões de tokens, ou aproximadamente (10^{25}) FLOPs
      Mesmo usando B300 a um preço alto de 5 dólares por hora e assumindo MFU de 50%, isso dá cerca de 15 milhões de dólares. Há risco de falha no treino e custos de treinamento posterior, mas, comparado ao gasto posterior com inferência, não é uma escala tão absurda assim
  • Exatamente 4 meses atrás, a participação de mercado no OpenRouter era 60% de modelos fechados e 40% de modelos abertos, mas agora os modelos abertos chegaram a 63%, invertendo a situação. Em 19 de março, o volume total processado pelos modelos abertos era de 888 bilhões de tokens, e ontem foi de 4,19 trilhões de tokens, um crescimento de 5 vezes em cerca de 4 meses
    Também foi criado um dashboard atualizado diariamente com base nos dados do OpenRouter: https://dirac.run/labs-market-share

    • É difícil entender o mercado inteiro só com o OpenRouter. Usuários de OpenAI, Anthropic e Google provavelmente usam diretamente as APIs dessas empresas, então não entram nessas estatísticas
      Ainda assim, é muito interessante ver o crescimento do uso de modelos abertos no OpenRouter
    • Eu queria ver, junto com as estatísticas por modelo, uma classificação de desempenho e custo, mas já existe um lugar que oferece isso: https://artificialanalysis.ai/
    • São números interessantes, mas acho que cada vez mais uso está migrando para produtos por assinatura, então esse indicador não captura isso. Tanto no uso pessoal quanto no uso corporativo, foi exatamente essa a mudança que aconteceu
    • Não vejo por que alguém usaria OpenRouter para Claude
    • Daqui a alguns anos, acho que esses números serão vistos como um dos primeiros sinais do colapso dos modelos fechados
      Se alguém discorda, eu gostaria de saber que defesas essas empresas realmente têm. Vejo os gastos enormes da OpenAI e da Anthropic e, mesmo assim, não consigo enxergar nenhuma defesa concreta, o que é frustrante
  • Claro, este texto tem um estilo claramente gerado por LLM: https://www.pangram.com/history/29a71663-e6b2-4db6-87bd-b943...
    Fico curioso sobre por que executivos colocam o próprio nome em textos assim. Talvez pareça uma continuação natural do costume de assinar rascunhos escritos por assistentes ou comunicados produzidos pela equipe de PR
    Acho que ajudaria a cultura da comunidade se o HN rodasse o Pangram automaticamente em textos centrados em texto, ou pelo menos nos que chegam à primeira página. Eu uso um plugin de navegador, mas vendo os comentários, parece que há gente que nem percebe que o texto foi gerado por IA

    • Se o custo for uma preocupação, já seria bom rodar o Pangram automaticamente só em posts que passem de certo número de recomendações ou cheguem à primeira página
      Em vez de cada leitor verificar de forma esporádica, é melhor que sites agregadores de conteúdo automatizem a checagem de IA. Recentemente implementei verificação automática com Pangram no Manifund, e até onde sei o LessWrong já usa esse recurso há algum tempo
    • Isso ajudaria muito o site, mas o Pangram tem fama de ser impreciso
  • Este material de apresentação é doloroso de ler. Há gráficos demais que quase não se conectam com o texto ao redor, e parece um slide de CTO imaginado por LLM. Mesmo assim, como tem cara de slide de CTO, aparentemente é visto como algo de ‘HIGH IMPACT’
    Teria sido muito melhor se o CTO da Mozilla tivesse explicado sua análise diretamente e com clareza

  • Em geral sou favorável à disseminação de modelos abertos, então queria levar isso a sério, mas os sinais de texto escrito por IA são claros demais, o que dificulta. Parece que demitiram as pessoas que antes escreviam esse tipo de texto
    Não digo isso só para zombar; acho que um estilo de IA tão facilmente reconhecível afasta imediatamente parte dos leitores, prejudica o argumento do texto e acaba tendo efeito contrário

    • Ler a frase “Parity reached. The contest is one layer up.” me dá vontade de vomitar
    • Talvez por estar cansado do estilo de IA, textos assim parecem sem sinceridade
  • “A Mozilla existe porque uma empresa tentou monopolizar a porta de entrada da web, e a comunidade aberta se levantou para impedir isso”, mas olhando a participação atual do Firefox, a porta de entrada da web está, na prática, nas mãos de Google e Apple
    Pode até ser suficiente imaginar um futuro em que alguns poucos modelos abertos contenham os desvios do restante do ecossistema, mas não parece ser esse o argumento que este texto faz

    • É uma narrativa escolhida a dedo só nas partes favoráveis. Uma empresa dominou a porta de entrada da web, outra abusou de sua posição de mercado para empurrar um navegador gratuito, e a Mozilla renasceu das cinzas da primeira
      Depois, outra empresa usou sua posição de mercado para disseminar um navegador gratuito e derrubar a participação do Firefox, mas continua pagando a Mozilla para não parecer um monopólio
    • O motivo real de a Mozilla continuar existindo é que o Google paga bilhões de dólares para manter seu produto como mecanismo de busca padrão
  • Impressiona como a Mozilla faz de tudo para acompanhar a última moda, mas não cria um navegador de privacidade de verdade para desenvolvedores e usuários avançados

    • O recurso de AI Chatbot do Firefox sugere apenas Mistral como provedor de modelos abertos e não oferece nenhuma opção de execução local. O discurso não bate com a prática
    • A Mozilla recebe US$ 500 milhões por ano em troca de continuar fazendo exatamente o que já fazia e manter a participação do Firefox abaixo de 5% no desktop e perto de 0% no mobile
    • Ainda assim, fornece todo o código-fonte para que esses projetos possam crescer, e até formou um ecossistema próprio com Librefox, Iceweasel, Reynard
    • Eu também pensava assim antes, mas sinto que o Firefox avançou bastante em 2026
      Também passei a concordar com a estratégia de IA da Mozilla. Em vez de criar seus próprios modelos ou vender conteúdo de IA de baixa qualidade, ela está construindo uma camada de compatibilidade open source, então a abordagem não parece irrealista
      Não quero um mundo em que a IA fique verticalmente subordinada, e se a Mozilla realmente conseguir reproduzir sua estratégia passada em IA open source, isso será bom para todos
    • O Firefox em si é um navegador de uso geral, e para alcançar um mercado amplo talvez isso seja melhor. Outros desenvolvedores estão criando navegadores para usuários avançados com o motor do Firefox
      Recentemente passei a gostar muito do Zen, mas mesmo depois de dois meses de uso o recurso de abas fixadas ainda é um pouco confuso: https://zen-browser.app/
  • A versão em PDF é mais fácil de ler: https://stateofopensource.ai/state-of-open-source-ai-2026.pd...

  • É lamentável não ver praticamente nenhuma comunidade em torno de modelos realmente abertos que publiquem junto os dados de origem e a metodologia de treinamento, para que de fato possam ser reproduzidos por quem tiver recursos. Deixaram o significado do termo “aberto” se diluir de forma impressionante

  • O design e a diagramação dificultam a leitura sem necessidade, mas é realmente impressionante ver o custo de inferência cair quase 50 vezes. Pelo anúncio do Kimi K3, os modelos abertos já estão chegando muito perto do estado da arte
    A IA open source está avançando muito mais rápido do que Anthropic e OpenAI previam