Adoro LLMs, mas odeio o hype exagerado

• LLMs, carros autônomos, modelos de geração de vídeo e agentes de programação são de fato úteis e interessantes, mas não concorda com o hype exagerado de medo e apocalipse em torno deles
• A narrativa de que, quando a janela de oportunidade se fechar, a pessoa se tornará permanentemente parte da classe inferior é menos um fato e mais um hype criado para atrair gente para San Francisco por meio da ansiedade
• Rejeita previsões que saltam de LLMs como autocompletar avançado, compilador inteligente e mecanismo de busca aprimorado para uma superinteligência que dominaria o universo, e vê o avanço da IA como algo que deriva principalmente da Lei de Moore e do progresso geral da computação, mais do que de grupos específicos
• Agentes de programação mudam a forma de programar e aumentam a produtividade até certo ponto, mas podem ampliar a fadiga cognitiva, e os resultados do vibe coding ainda contêm muito código de baixa qualidade
• A IA está na continuidade da revolução dos computadores, e LLMs são ferramentas que ajudam desenvolvedores como find/replace, Stack Overflow e expressões regulares, mas sua utilidade não leva automaticamente à captura de valor pelos laboratórios de IA de fronteira

---

Entre o progresso da IA e o hype exagerado

• Depois de focar em hacking entre 2007 e 2014, investiu toda a carreira em IA e celebra os avanços de novos LLMs, carros autônomos, modelos de geração de vídeo e agentes de programação
• Rodando o opencode localmente com GLM-5.2 e dando a instrução install tmux with the geohot configuration, a instalação funcionou, e isso foi visto como um caso em que finalmente chegou o ano do desktop Linux
• O hype a que se opõe se divide em dois tipos
  • A narrativa de que a janela de oportunidade vai se fechar e a pessoa se tornará permanentemente parte da classe inferior, ou ficará tão para trás que não conseguirá se recuperar, é um hype negativo que deixa as pessoas ansiosas
  • A lógica que sai de autocompletar avançado, compilador inteligente e mecanismo de busca aprimorado para um cenário de superinteligência em que tudo muda de repente é um salto espantalho, e afirma com convicção que esse evento não vai acontecer
• A palestra sobre superinteligência de 2016 e o filme de 1991 Terminator 2, em que máquinas dominam o mundo, mostram que essa ideia não foi criada recentemente por um grupo específico
• Reconhece que a IA pode criar enorme valor, mas considera que a valorização corporativa dos laboratórios de fronteira não se justifica porque esses laboratórios não conseguirão capturar diretamente esse valor
• Julga que, no centro da lógica contra o open source, não estão segurança nem China, mas sim o medo da comoditização de um bem de uso geral
  • O avanço da IA deriva principalmente da Lei de Moore e do progresso geral da computação, mais do que de laboratórios específicos
  • Se esse fato se tornar amplamente conhecido, investidores talvez não forneçam dezenas de bilhões de dólares, então os laboratórios teriam um forte incentivo para escondê-lo

A realidade da produtividade trazida pelos agentes de programação

• No passado, em The Eternal Sloptember, pode ter avaliado a capacidade de programação dos modelos de forma excessivamente dura, e agora reconhece que a própria forma de programar está mudando
• A fala de Linus Torvalds compara agentes aumentando a produtividade da programação em 10 vezes e compiladores em 1.000 vezes
  • Considera tanto 10 vezes quanto 1.000 vezes estimativas extremas
  • Está convencido de que, à medida que melhora a capacidade de usar modelos, de fato obtém algum ganho de produtividade
  • Usar modelos é uma nova habilidade que precisa ser aprendida separadamente, e já vinha testando continuamente vários modelos
• Ainda restam limitações claras nos agentes de programação
  • Modelos podem aumentar a fadiga cognitiva, por isso devem ser usados com cuidado
  • Os resultados do vibe coding continuam de baixa qualidade, e também não está claro onde está, na prática, o novo software que corresponderia aos ganhos de produtividade alegados
• Mesmo assim, modelos são ferramentas úteis para apoiar o desenvolvimento, como find/replace, Stack Overflow e expressões regulares, e a IA também está na continuidade da revolução dos computadores

[GN⁺]

Opiniões no Hacker News

• A frase “não é que a IA não crie grande valor, e sim que os laboratórios de fronteira não ficarão com esse valor” resume bem o comportamento deles e por que querem fazer as pessoas usarem os melhores modelos com cobrança por token
  Com as assinaturas atuais, de 100 a 200 dólares por mês, oferecendo uma quantidade generosa porém limitada de tokens, a maioria das pessoas e empresas escolheria facilmente modelos de fronteira. Mas, se o preço por token for de 10 a 100 vezes o de modelos abertos ou de modelos de fronteira de um mês atrás, a história muda. Eu não gastaria 1.000 dólares por mês, muito menos 10.000, no melhor modelo, e meu empregador talvez pagasse até 1.000, mas jamais 10.000
  Para justificar o valor de mercado atual, todos teriam de pagar 100 vezes mais do que hoje, mas isso não vai acontecer enquanto qualquer um puder fazer modelos assim. OpenAI e Anthropic ainda estão tentando encontrar uma solução e, em especial, a Anthropic parece querer migrar o Fable para cobrança por uso. Só que o 5.6 Sol da OpenAI é bom o bastante para competir com o Fable e pode ser usado até na assinatura de 20 dólares por mês, então não há um fosso que impeça a migração. Se a Anthropic realmente encerrar em poucos dias o acesso ao Fable nos planos de assinatura, acho que o mercado vai migrar em peso para a OpenAI
  O mercado não vai aceitar preços altos o bastante para fechar a conta econômica do investimento em fronteira

  • Eu também comecei a recorrer com mais frequência a modelos locais. Para tarefas que eles ainda não fazem bem, usarei modelos de fronteira pelos preços atuais, mas, se no fim inverterem a estrutura de preços e passarem a cobrar 1.000 a 2.000 dólares por mês, isso não valerá a pena
    Para o meu uso, o modelo nem precisa evoluir muito mais. Testei o Fable algumas vezes, mas raramente vi motivo para escolhê-lo, e o Opus fez a mesma coisa por muito menos. Se os modelos virarem commodity, será interessante ver quem vai querer bancar os enormes custos de treinamento. Os custos devem cair algum dia, mas provavelmente não rápido o bastante para essas empresas aguentarem
  • É engraçado pensar que o Fable provavelmente ficará obsoleto em um ou dois meses. Depois de criar um escândalo de não divulgação que poderiam ter evitado se não tivessem fingido que era perigoso, continuaram permitindo o acesso e praticamente desperdiçaram a pouca vantagem que tinham
    Teria sido interessante se, em vez de enrolar até o próximo modelo ultrapassá-lo, eles tivessem cobrado mais desde o começo e testado até quanto o mercado aguentaria
  • Não dá para subestimar o poder de um modelo bom o suficiente. Mesmo que o GLM5.2 não esteja no nível do estado da arte, ele pode ser suficiente para atender à maioria — talvez até a todas — das nossas necessidades
  • Tenho dúvidas se esses são mesmo os melhores modelos. A Anthropic, sem o mythos, não ficaria em terceiro lugar?
    A OpenAI voltou a ficar na frente recentemente, mas para isso usa um modelo gigantesco com custo por token absurdamente alto. Ninguém precisa de um modelo assim. É como a NVIDIA ou a Intel anunciarem o melhor desempenho em jogos enquanto consomem muito mais energia por frame do que os concorrentes
  • Para ser exato, o período de uso por assinatura do Fable foi prorrogado novamente até 19 de julho

• O novo software quase mágico criado pelo ganho de produtividade está rodando em privado no meu homelab
  Parece que agora entramos na era do “faça do jeito que você quiser”. Se um projeto open source não funciona como você quer, basta fazer um fork ou criar uma nova versão; isso ficou fácil demais
  Ainda assim, fico um pouco preocupado com o futuro do open source. Antes, manter um fork também dava trabalho, então valia a pena enviar mudanças para o upstream. Agora esse equilíbrio mudou bastante. Muitos projetos endureceram os requisitos para contribuições e alguns são abertamente hostis à IA, o que não é incompreensível. Mas, à medida que a adoção de IA aumenta, parece menos provável que as melhorias voltem para a comunidade

  • É preciso lembrar que código é grátis no mesmo sentido de um “filhote grátis”. O valor das comunidades de software livre e open source nunca esteve no código em si, e sim na documentação compartilhada e no conhecimento oral que tornam o software útil, utilizável e atualizado
  • Você provavelmente vai cair em um inferno de manutenção em breve. A parte difícil e irritante não é programar, e sim ter de reabrir e retocar cada projetinho sempre que surge uma pequena mudança necessária; no longo prazo isso vira uma quantidade enorme de trabalho braçal. Mesmo com IA, isso não deve ficar muito mais fácil
  • Só faz sentido fazer fork de um projeto ativo quando você é o único usuário desse fork e a alteração dos seus sonhos é realmente indispensável. Já vi forks desnecessários demais de projetos populares e, por isso, acho melhor manter o original, mesmo que não seja perfeito
  • Você ainda precisa acompanhar mudanças do upstream e resolver conflitos de merge. Senão, vai ter de pedir para um LLM corrigir todas as CVEs do seu fork
  • Mesmo agora que essas novas ferramentas permitem escrever todo esse código, não parece muito convincente a explicação de que todas as pessoas e empresas, como se houvesse uma grande conspiração, estariam produzindo tudo apenas como software privado e não publicando nada

• Pelo menos no meu caso, o ganho de produtividade foi usado para criar software enxuto e descartável para casos de uso muito específicos
  Com LLM dá para construir qualquer coisa, mas você mesmo precisa saber o que está construindo e pensar em todo o comportamento. Senão, o LLM enche o interior com uma salada de coisas, como uma salsicha. Basta olhar a qualidade inconsistente do software lançado por empresas avaliadas em trilhões de dólares para ver que os modelos ainda são desiguais e limitados. O futuro é salsicha

  • Mesmo que eu possa fazer pão em casa, se custar 10 vezes mais e ficar horrível, eu não vou querer gastar meu tempo aprendendo a aperfeiçoar o pão que como todo dia. Como atividade ocasional para acalmar a cabeça, tudo bem, mas eu preferiria apoiar de bom grado quem dedicou mais tempo e esforço do que eu para aperfeiçoar a solução ao longo da vida
    Assim, posso parar de me preocupar com esse problema e focar no que eu quero fazer

• Em 2024~2025, eu também me senti assim. Mas isso começou a mudar depois que saiu o Sonnet 4, e o Opus 4.5 foi mais um salto
  Dá a impressão de que tudo está acelerando e de que o cronograma esperado está sendo comprimido. Em certo sentido, invejo o autor original por estar disposto a “apostar tudo” contra a ASI. A verdade é que eu também não sei onde isso vai terminar, e não acho que ninguém saiba

  • O autor original não disse que estava apostando tudo em que a ASI jamais virá. Ele disse que estava apostando contra a ideia de que a ASI apareceria como um raio no céu e destruiria nossa chance de acessar a riqueza que ela criasse

• Eu também gosto de LLMs, mas me preocupo com o custo. Ainda está todo mundo recebendo grandes subsídios; existe alguma garantia de que será possível rodar um modelo nível Opus 4.8 em um computador pessoal antes que os grandes laboratórios de IA aumentem os preços?

  • Eu diria, na verdade, que os laboratórios de fronteira estão obtendo uma margem considerável em relação ao custo por unidade de inferência.
    O custo para operar modelos de tamanho próximo ao da fronteira já pode ser verificado. Empresas independentes já migraram para um negócio de oferecer esses modelos a preços razoáveis, e no OpenRouter competem com preços muito mais baixos do que os laboratórios de fronteira.
    Se passar a ser possível rodar um modelo nível Opus 4.8 em um computador pessoal, então em datacenters será possível oferecer esse serviço por muito menos com hardware próprio. Portanto, eu apostaria que os preços não vão subir, e sim cair bastante
  • Mesmo com o preço da RAM rápida atualmente bem inflado, ainda dá para rodar um modelo local aproximadamente no nível do Sonnet 4.5 por menos do que custa um carro novo. Pode não ser a resposta esperada, mas é uma opção viável, e também dá para criar uma pequena cooperativa de IA em que vários desenvolvedores compartilham um servidor com duas RTX Pro 6000.
    O DeepSeek V4 Pro é barato em praticamente qualquer API comum, e o DeepSeek V4 Flash custa algo como US$ 0,09 por 1 milhão de tokens de entrada e US$ 0,18 por 1 milhão de tokens de saída, ou seja, é praticamente de graça. Nem é exatamente um preço criado por subsídio.
    Numa configuração local mais realista, o Qwen3.6 27B rodando em uma ou duas Nvidia 3090 usadas é surpreendentemente bom. Ele exige instruções claras e não serve para vibe coding totalmente automático, mas é bastante prático para programadores que intervêm diretamente
  • É difícil exigir uma garantia, mas, se a concorrência saudável continuar, é muito provável que as curvas de oferta e demanda se encontrem em um ponto razoável. O que sempre é certo é que você pode manter modelos abertos guardados separadamente
  • Dizem que daqui a 2 anos sairá um Mac Studio com 1,5 TB de RAM, e isso deve ser suficiente para rodar um modelo de nível Opus. Claro, o preço provavelmente será algo em torno de US$ 50 mil.
    Se a IA local realmente se popularizar, isso talvez vire um daqueles bens que as pessoas compram parcelado, como um carro
  • Hoje, por causa dos subsídios nos modelos de fronteira, a demanda se concentra principalmente em inteligência mais alta. Se os subsídios acabarem, a demanda por eficiência de preço por unidade de inteligência deve crescer bastante, e, como há muitos participantes no mercado, algumas empresas vão atender isso

• Quero concordar com a lógica de “uma nova ferramenta que o artesão profissional de software adicionou à sua caixa de ferramentas”, mas vale pensar no cotonete.
  Mesmo escrito “não use para limpar os ouvidos”, a maioria das pessoas quer usá-lo só para isso. Na prática, o resultado acaba sendo “usar cotonetes de forma irresponsável” ou “não usar de jeito nenhum”, e “usar corretamente” representa uma fração minúscula do total

  • Cotonetes foram de fato feitos para limpar os ouvidos. O motivo de escreverem para não fazer isso é para não serem processados toda vez que alguém machucar a própria orelha

• Ele disse que o texto “eternal sloptember”, de maio, pode ter sido duro demais: https://geohot.github.io/blog/jekyll/update/2026/05/24/the-e...
  Fico curioso sobre qual parte ele considera que foi dura demais. Ainda parece bastante preciso e deve continuar sendo bem avaliado com o tempo

  • Ao contrário da frase “introduzir agentes de IA no desenvolvimento de software será um dos erros mais caros da história desse campo. Agentes não sabem programar, e está demorando cada vez mais para percebermos isso”, ele agora parece achar que agentes conseguem programar um pouco

• Ninguém fala disso, mas O Exterminador do Futuro 2 não é uma história sobre máquinas dominando o mundo. Isso já aconteceu ou vai acontecer, mas no fim os humanos derrotam as máquinas. A Skynet tenta impedir isso matando John Connor, e esse é o núcleo do filme.
  Também é uma história sobre John encontrar no T800 uma figura que cumpra um papel de pai. Ele não conseguiu isso com os pais adotivos nem com a mãe distante. É uma pena que essa pessoa aparentemente não tenha realmente assistido ao filme. É um clássico extraordinário

  • O maior roleplayer de todos os tempos

• Há motivos de sobra para não gostar dos vendedores e do marketing deles, mas quem faz não é vendedor. Quem faz usa quaisquer ferramentas que estejam disponíveis

  • O Geohot também foi um dos que tentaram virar vendedor. Talvez seja só uma mudança de atitude porque os negócios não deram certo

• Não é preciso entrar no Twitter para usar LLMs e ficar exposto a gente falando de uma “subclasse permanente”. Eu gosto da internet, mas sinto que agora, mais do que nunca, é preciso escolher conscientemente quais sites visitar

  • Esse tipo de gente não está só no Twitter. Está aqui também, está no trabalho e vai aparecer no próximo encontro social. Até certo ponto, parece uma presença inevitável
  • O clima de contraexagero malicioso que aparece aqui é bem desagradável. Acho que isso acontece porque muita gente vai deliberadamente atrás de opiniões com as quais eu não entro em contato.
    Teorias da conspiração absurdas sobre a situação financeira de datacenters e empresas relacionadas começam no Bluesky ou no Instagram e frequentemente passam por aqui antes de chegar até mim também. Mas eu nunca vi diretamente essa onda irresistível de exagero contra a qual eles dizem estar lutando. Também leio Scott Alexander, mas ele é muito mais cauteloso do que as pessoas descrevem
  • Fico me perguntando se ainda existe gente no Xitter reclamando de divisão de classes. Quase não entro mais lá hoje em dia, mas nem antes eu via isso por lá