Os críticos dos LLMs estão certos. Mesmo assim, eu uso LLMs

• Mesmo reconhecendo problemas de direitos autorais, meio ambiente e ética, além de resultados de baixa qualidade, colapso da confiança no open source, enfraquecimento da formação de juniores e dependência geopolítica, continua usando LLMs como uma ferramenta para elevar a qualidade do pensamento
• LLMs amplificam pensamentos, opiniões e estruturas já existentes; sem julgamento humano, produzem lixo fluente em massa, mas com reflexão e responsabilidade suficientes ajudam a criar menos resultados e melhores
• Para quem está de fora, é difícil verificar se uma pessoa realmente pensou no que produziu, então o valor do resultado acaba dependendo de confiança e reputação, e o critério para separar AI slop é saber se ele pode ser lido publicamente sem constrangimento, letra por letra
• Usa /grill-me, o Pitch da Basecamp, subagentes dedicados à crítica, o Ralph Wiggum loop e o método de fazer o LLM alucinar primeiro uma API/UX esperada para inverter a favor as tendências de concordância e alucinação do modelo
• É indispensável a especialização do usuário para distinguir bons e maus resultados; usar LLMs sem especialistas e sem julgamento humano em áreas onde é difícil verificar a resposta correta leva à produção de slop em larga escala

---

O cenário em que crítica e uso coexistem

• Na Local-First Conf, em Berlim, houve muitos aplausos para uma apresentação crítica aos LLMs, enquanto ao mesmo tempo boa parte da plateia estava com o Claude Code aberto
• Armin Ronacher, criador do Flask e integrante da equipe inicial do Sentry, fundou a Earendil e está desenvolvendo o Pi.dev, um harness open source para agentes de programação
  • Depois da apresentação Building Machine Entities, ao ser perguntado sobre a enxurrada de PRs gerados por LLM no Pi.dev, respondeu que fecha automaticamente quase todos os PRs e issues
  • Ainda assim, acrescentou que não se deve desistir de abrir PRs, porque no fim a individualidade humana aparece
  • A página de propósito da Earendil afirma que, mesmo em um mundo que avança com tudo sobre a IA, seres humanos são os melhores agentes
• Nas conversas com participantes da conferência, essa mesma contradição entre criticar LLMs e usá-los apareceu repetidamente; não era uma experiência individual

Por que as críticas aos LLMs são válidas

• Os LLMs estão envolvidos com materiais protegidos por direitos autorais, impacto ambiental e questões éticas
• A estrutura em que o dinheiro circula em torno de NVIDIA e OpenAI parece insustentável, e a bolha atual deve estourar em algum momento
• A crítica mais comum, de que “LLMs produzem muito slop”, está de acordo com a realidade

• Colapso da confiança no open source

  • Repositórios open source começaram a rejeitar todas as contribuições ou a adotar mecanismos para filtrar material gerado por LLM
  • Antes dos LLMs, um PR bem escrito com uma boa explicação já significava, por si só, pelo menos algumas horas de esforço humano, então mantenedores podiam revisar contribuições novas assumindo um investimento mínimo de tempo e atenção
  • Até trolls ou submissões de baixa qualidade podiam ser identificados com relativa facilidade em poucos segundos
  • Agora qualquer pessoa pode criar uma conta nova no GitHub e colocar um LLM para trabalhar, tornando difícil distinguir se um PR exigiu muito tempo humano ou se é uma submissão autogerada por uma máquina OpenClaw
  • Zig e Gentoo rejeitam PRs gerados por LLM, mas existe a limitação prática de ser difícil determinar se algo foi realmente gerado
  • Sem restaurar a confiança, os LLMs podem prejudicar gravemente o open source
  • Uma resposta possível seria permitir contribuição apenas de um pequeno grupo de pessoas verificadas, com exigências como participação em encontros presenciais

• Enfraquecimento da formação de engenheiros juniores

  • Ficou mais difícil confiar no esforço que um júnior colocou no código
  • Um sênior não consegue saber se um código ruim foi feito por vibe coding em 10 minutos ou se veio de horas de reflexão com pouca capacidade de insight
  • Mesmo antes dos LLMs, juniores já escreviam código ruim e seniores revisavam e corrigiam, mas agora o esforço e o processo de aprendizagem não ficam visíveis
  • Essa incerteza reduz a motivação dos seniores para ensinar juniores
  • Antes havia um equilíbrio em que juniores assumiam tarefas simples e seniores os desenvolviam revisando o trabalho em conjunto
  • Se tarefas simples puderem ser totalmente delegadas ao LLM, também enfraquece o motivo para empresas contratarem juniores

• Dependência geopolítica e convergência de opiniões

  • Não dá para ignorar a possibilidade de que EUA ou China passem a bloquear de repente determinadas regiões no acesso a tecnologias relacionadas
  • O governo dos EUA mostrou, por meio de uma ordem de controle de exportação em junho de 2026, que tem intenção e capacidade de impedir clientes fora dos EUA de acessarem os modelos mais novos da Anthropic
  • A Anthropic declarou que, seguindo diretrizes de 12 de junho de 2026, desativou repentinamente o Fable 5 e o Mythos 5 para todos os clientes
  • Martin Kleppmann, na apresentação local-first em um mundo instável, disse que a chance de conflito entre Europa e EUA ainda é muito baixa, mas no ano anterior era zero
  • Mesmo usando LLMs apenas como ferramenta de pesquisa, opiniões majoritárias do material de treinamento ou crenças políticas dos criadores do modelo podem infiltrar-se silenciosamente nos resultados
  • Isso se parece com o fenômeno em que humanos passam a compartilhar certas palavras ou opiniões ao conversar, com a diferença de que um dos interlocutores não é humano

O papel dos modelos locais e dos open weights

• É difícil eliminar totalmente os LLMs, então, em vez de rejeitar o movimento, é preciso uma abordagem de controlá-lo e moldá-lo diretamente
• Modelos executados no notebook ajudam programadores a se libertarem da dependência de grandes empresas
  • Modelos locais continuam melhorando
  • Quando os subsídios acabarem e os preços subirem, modelos com open weights podem conter os preços e a influência dos grandes fornecedores
  • Modelos executados em hardware próprio não podem ter o acesso bloqueado de um dia para o outro por um governo
• Mesmo que o colapso da bolha da IA cause grandes danos à economia mundial e às empresas, os modelos com open weights continuarão existindo como alternativa para programadores
• As apresentações sobre IA na Local-First Conf também trataram seriamente de modelos locais, permitindo um ambiente semelhante ao da ficção científica, com uma IA sempre disponível para responder perguntas

Uma ferramenta que amplifica o pensamento humano

• Vários palestrantes declararam publicamente que delegaram parte do trabalho ao Claude Code, e ainda assim suas apresentações foram aceitas e receberam aplausos da plateia, incluindo participantes seniores e respeitados
• A diferença é que existe um ser humano colocando sua reputação e credibilidade em jogo no resultado
  • Quem apresenta AI slop perde a confiança dos outros
  • Quem assume responsabilidade usa o LLM não para terceirizar o pensamento em si, mas para implementar suas próprias ideias de forma mais rápida e mais forte
• LLMs amplificam opiniões, estruturas e frameworks que a pessoa já possui
  • Quando há pensamento, ele aparece com mais clareza e rapidez
  • Quando não há pensamento, o resultado sai muito fluente, mas vazio de conteúdo
• São úteis para brainstorming, revisão gramatical, melhoria iterativa de frases, geração de alternativas, debugging com rubber duck e papel de advogado do diabo
• Em vez de produzir muito, a escolha é produzir menos com mais qualidade
  • Gasta-se um volume enorme de tokens para preparar apenas algumas frases que serão lidas por pessoas
  • LLMs podem apoiar o processo de pensar, mas não substituem o pensamento em si

O critério de confiança que separa AI slop

• Um texto deve ser escrito de humano para humano, mas isso não contradiz o uso de LLMs em todo o processo de escrita
• A diferença entre AI slop e um bom texto depende de haver pensamento humano por trás, e pensamento não pode ser terceirizado
• O problema é que, para quem está de fora, não há como verificar se a pessoa realmente pensou
  • A frase “uso IA para pensar melhor” pode ser dita tanto por um usuário cuidadoso quanto por um defensor irresponsável de IA
  • Até bobagem amplificada pode soar como um resultado genial; no fim, sobra apenas a confiança
• Confiança é difícil de conquistar e fácil de perder, e na era dos LLMs até um único em dash pode fazer um texto inteiro parecer AI slop
• Entre pessoas com interesse político em local-first, muitas demonstravam forte postura anti-LLM, e havia um clima de preocupação de que software feito com LLM pudesse ser rejeitado pela comunidade
  • Havia até quem tivesse medo de falar publicamente, dentro da própria conferência, que usava LLMs
• Em junho de 2026, foram gastos cerca de US$ 10 mil em custos de tokens
  • Depois disso, o Fable passou a ser usado só de forma seletiva, por ser caro demais
  • Para execução pura de código, são usados modelos mais baratos como OpenRouter e GLM 5.2
• Um critério prático para julgar se algo é slop é saber se o resultado pode ser lido em voz alta diante de uma plateia exatamente como está
  • Se for necessário explicar separadamente o que aquilo quer dizer, está mais perto de slop
  • Se puder ser lido integralmente sem vergonha alguma, pode ser considerado um bom texto

/grill-me: forçar a compreensão

• Se o LLM não entende o problema real e os requisitos, ele escreve software ruim; se recebe as técnicas e ferramentas certas, também pode produzir resultados bastante bons
• O principal obstáculo para resultados razoáveis é a tendência à concordância
  • O LLM não avisa que não entendeu e tenta imediatamente fazer alguma coisa
• /grill-me, uma adaptação da técnica “grill me” de Matt Pocock, força a construção de um entendimento compartilhado antes da execução
  • Faz perguntas insistentes sobre todos os aspectos e percorre em ordem cada ramo da árvore de decisão
  • Cada pergunta vem acompanhada de uma resposta recomendada
  • Faz uma pergunta por vez e espera a resposta do usuário
  • Fatos que podem ser confirmados no sistema de arquivos ou em ferramentas são investigados diretamente
  • As decisões são perguntadas uma a uma ao humano, e nada é executado antes da confirmação de que se chegou a um entendimento compartilhado
• Ao receber perguntas uma a uma, o usuário é levado a formar seu próprio pensamento
• O mesmo método é aplicado à escrita: primeiro despeja ideias confusas, depois refina cada frase recebendo críticas do LLM
• Essa abordagem em etapas, que gasta uma quantidade extrema de tokens para uma única frase, aumenta a qualidade do resultado

Especificações curtas e escopo revisável

• Mesmo em pequenas tarefas de programação, segue-se o Pitch da Basecamp e registra-se brevemente três itens

  • Problem

  • What we are shipping

    • What we are not shipping
    • A definição do problema é limitada a três frases
    • É fácil preencher esse formato com um LLM, mas difícil criar três boas frases
    • Como é um formato curto pensado para humanos, quem escreve realmente consegue ler e outras pessoas conseguem revisar
    • A maior parte da saída de LLM é mais escaneada do que lida a fundo, mas uma definição de problema em três frases recebe checagem de fatos muito mais rigorosa
    • Quando o volume de revisão é excessivo, a qualidade cai
    • Em uma revisão de 1.000 linhas de código, é fácil deixar apenas um LGTM
    • Em uma revisão de 100 linhas, dá para deixar 15 comentários
    • O mesmo nível de atenção é aplicado à descrição do PR
    • Mantém-se tudo legível e conciso
    • Escreve-se com clareza qual é o problema real, o que será entregue e o que não será entregue
    • Anexa-se uma tela funcionando para mostrar imediatamente se vale a pena revisar e se aquilo realmente funciona
    • O Claude tenta continuamente acrescentar conteúdo desnecessário à descrição do PR, então é preciso cortar sem parar, e em PRs menos importantes isso nem sempre é contido o suficiente

Agentes críticos e uso reverso da alucinação

• Para lidar com o conteúdo produzido em massa por LLMs, o fluxo de trabalho de programação inclui pequenos agentes com função crítica
• O Ralph Wiggum loop ou o ultracode do Claude fixam texto, plano, especificação e código, e então lançam repetidamente subagentes com novo contexto para encontrar defeitos
  • Os subagentes recebem apenas a tarefa de atacar o contexto fornecido
  • O processo se repete até que parem de encontrar problemas reais e passem a alucinar problemas
• Ao chegar ao estágio de alucinar problemas, a fraqueza do LLM pode ser usada como sinal de validação
  • O LLM tende a concordar com a expectativa do usuário de que há algum problema, mas já não consegue encontrar defeitos reais
  • Em conjunto com /grill-me, isso pode pressionar o humano a examinar até dúvidas pequenas e formar seu próprio pensamento
• A própria alucinação também pode ser usada para validar design
  • Anselm Eickhoff apresentou um método para fazer o LLM alucinar a API ou UX esperada antes de mostrar o produto real
  • A forma que o LLM imagina pode ser parecida com a forma que muitos humanos esperariam, servindo como um teste barato para verificar se o design corresponde às expectativas do usuário
  • O intuition-probe skill, que automatiza isso, faz com que um agente cego fixe primeiro sua previsão antes de ver o design real

Limites de especialização e verificabilidade

• Todos esses padrões de uso partem da premissa de que o usuário é capaz de avaliar a qualidade do resultado
• Quanto mais o uso de LLMs se expande para áreas menos familiares, mais necessária se torna a ajuda de especialistas
  • Assim como só é possível delegar trabalho a alguém da equipe quando se entendem os princípios básicos e os critérios de um bom resultado, com LLMs vale o mesmo
• Em áreas bem conhecidas, é possível distinguir rapidamente entre um bom resultado e um resultado péssimo
• Em áreas pouco conhecidas, o uso deve ficar restrito ao apoio ao aprendizado
  • Se a pessoa não consegue julgar a qualidade e ainda delega a geração do resultado, isso leva à produção de slop em escala

• Áreas em que é possível verificar a resposta correta

  • Em áreas onde o sucesso e o fracasso do resultado são claros, dá para aprender junto com o LLM
  • Critérios de verificação incluem se o código compila, se a suíte de testes passa e se o protocolo decodifica corretamente
  • Um participante da conferência fez engenharia reversa de binários e protocolos com o Opus 4.6
  • O ponto de partida necessário era conhecimento básico de engenharia reversa
  • Como era claro se o binário corrigido funcionava ou quebrava o dispositivo, também foi possível descobrir técnicas próprias durante o trabalho

• Áreas em que a opinião interfere

  • Em áreas cheias de opinião, como programação, o LLM pode responder com a técnica mais popular em vez da mais adequada para aquela situação
  • Em uma equipe, certo código foi criticado como AI slop, mas ao aprofundar a discussão ficou claro que a verdadeira questão era oposição a TDD
  • Na equipe, também havia pessoas que já usavam TDD ativamente desde antes dos LLMs
  • O problema não era a IA em si, mas as diferenças de opinião entre humanos
  • Como o LLM amplifica até a opinião do usuário, no começo o humano precisa fornecer uma direção geral e um bom ponto de partida
  • Só depois de adquirir discernimento suficiente a pessoa consegue continuar usando LLMs por conta própria

Reforço do pensamento, não substituição

• A contradição entre crítica e uso não é uma experiência isolada; conversas no Discord da conferência, discussões presenciais e textos recentes no Hacker News mostraram o mesmo padrão
• Para confiar em resultados feitos com LLM, é preciso interagir continuamente com o resultado real, mas isso por si só já consome muito tempo
• Independentemente da propaganda exagerada, os LLMs têm valor como ferramenta útil para enriquecer o pensamento humano
• LLMs podem fortalecer o pensamento, mas não podem substituir o pensamento humano

[GN⁺]

Opiniões do Hacker News

• Os LLMs já ajudam a amplificar opiniões, estruturas e molduras de pensamento que a pessoa já tem, permitindo expressar ideias com mais rapidez e clareza, mas há preocupação se o uso centrado em agentes não acabará atrofiando a capacidade de raciocínio, inclusive na engenharia de software
  Assim como os músculos, o cérebro também precisa ser usado continuamente, e é difícil ter certeza de que, após usar esse tipo de ferramenta todos os dias por 5, 10 ou 20 anos, o pensamento e o gosto pessoal realmente sairão mais afiados
  É claro que há vantagens, como ganhar velocidade em áreas familiares e entrar mais rapidamente em áreas novas, mas é difícil encontrar um equilíbrio adequado entre seguir refinando as habilidades por conta própria e acabar para trás na disputa por produtividade, ou priorizar agentes e adiar o aprendizado para segundo plano
  Também respeito e entendo a postura de rejeitar LLMs por motivos morais, mas pessoalmente não ajo assim

  • Esses benefícios não são tão evidentes quanto parecem. Desenvolvedores vêm superestimando de forma consistente os ganhos de produtividade dos LLMs, e parece que o mesmo está acontecendo com a IA do tipo agente: https://metr.org/blog/2026-05-11-ai-usage-survey/
    Os resultados são surpreendentemente parecidos com os dos LLMs anteriores aos agentes, e como não há nenhum dado de longo prazo, dá para contestar em alguma medida sua utilidade no nível individual, mesmo que não no mercado de trabalho
  • Trabalho em algo que cruza tecnologia, finanças e análise, então programo pouco, mas agora consigo tentar diretamente vários projetos que antes eu nem tocaria sem uma equipe de apoio maior
    Recentemente comecei a aprender Go pela primeira vez, e poderia ter deixado tudo nas mãos do Codex, mas como é possível que eu continue fazendo projetos em Go no futuro, estou indo devagar de propósito para aprender os fundamentos e critérios de julgamento. Já scripts pontuais em Python eu quase nem reviso mais, e curiosamente é essa parte que mais me assusta
  • A parte mais preocupante é que nossa capacidade de julgar corretamente o que precisamos aprender e de estudar com constância é mais fraca do que parece
    Por exemplo, um LLM escreve expressões regulares melhor do que um desenvolvedor mediano, e como tarefas que exigem regex aparecem só a cada alguns meses e são chatas de resolver por tentativa e erro, é fácil simplesmente delegar. Com isso, pode desaparecer tanto a intuição sobre o que é possível fazer com regex quanto a capacidade de escrevê-las sem LLM, além das pessoas que produzem material sobre o tema
    No geral talvez ainda valha a pena usar, mas assusta a possibilidade de não conseguirmos nem avaliar com precisão o que estamos perdendo
  • Eu achava que agentes enfraqueceriam as habilidades, mas na prática eles também podem ser usados para treino técnico e aprendizado
    Com base no guia de stack, tópicos e critérios de avaliação que recebi antes de uma entrevista de programação, pedi ao Claude para criar 12 projetos de prática e documentos com tarefas e respostas, e dei ao Codex o papel de entrevistador, recebendo feedback e contraperguntas enquanto eu explicava a solução e meu raciocínio. Só consegui terminar dois ou três, mas foi a primeira vez que gostei de me preparar para uma entrevista, e de fato aprendi coisas novas
    A parte mais difícil foi impedir que o LLM resolvesse as tarefas por mim, mas isso deu para contornar com tempo, instruções claras e separação de papéis
  • O fato de os LLMs poderem atrofiar capacidade intelectual e habilidades também faz pensar em um cenário tipo o filme Idiocracy
    A hipótese de a IA destruir a civilização de forma violenta já é bem conhecida nas discussões sobre o paradoxo de Fermi, mas também vale considerar um declínio não violento por degeneração intelectual

• Gastar US$ 10 mil por mês em tokens para fazer um programa escrever algo que a própria pessoa poderia escrever bem de graça parece absurdamente idiota. Dá a sensação de que todo mundo virou aqueles humanos apáticos de Wall-E
  Quando os limites de melhora de desempenho chegarem e os retornos começarem a diminuir, espero que os modelos abertos fiquem no mesmo nível dos modelos proprietários, que OpenAI e Anthropic levem uma à outra à falência, e que qualquer um possa rodar um modelo aberto pessoal e gratuito no próprio notebook. Aí vários problemas dos LLMs, criados por pagar para outra coisa fazer o que antes era feito de graça, talvez desapareçam

  • Por essa lógica, não seria diferente de criticar alguém por gastar US$ 1 mil numa passagem aérea apesar de poder ir de SFO a NYC a pé de graça

• O smartphone também é uma excelente ferramenta de uso geral, e as redes sociais também são boas ferramentas para conectar pessoas, mas nos últimos 20 anos fomos otimistas demais quanto ao impacto social delas
  Como os smartphones eram úteis demais, em algumas sociedades cerca de metade das pessoas acabou viciada, e no mundo isso significa bilhões de pessoas. Não sabemos se os LLMs vão enriquecer ou estragar o pensamento no longo prazo, nem se daqui a 10 anos metade das pessoas vai terceirizar a maior parte do próprio raciocínio
  Como esse experimento está sendo conduzido muito rapidamente no mundo inteiro, uma postura cética diante da conclusão de que os LLMs enriquecerão o pensamento no longo prazo é razoável

  • Ferramentas são úteis, mas apostar tudo em uma única ferramenta é perigoso. Assim como foi claramente uma má escolha depender só de carros, sacrificando bicicletas, ônibus e trens, só porque carros eram bons, também não é bom amarrar trilhões de dólares e o futuro de países e do mundo aos LLMs, por mais convenientes que sejam
  • Há quem diga que, na pré-história com pouca tecnologia, era preciso estar sempre alerta e ser esperto para sobreviver, então a inteligência média dos homens das cavernas teria sido maior que a dos humanos modernos
    Hoje é possível sobreviver trabalhando no McDonald’s, e os LLMs apenas continuam uma antiga tendência de terceirização cognitiva que a humanidade segue há muito tempo

• A única evidência concreta apresentada é o bloqueio pelos EUA, e como os modelos de ponta da China podem todos ser baixados gratuitamente, a preocupação de que a China faria o mesmo parece mais uma projeção do comportamento dos EUA. A estratégia de IA da China pode ser vista aqui: https://ipc.court.gov.cn/zh-cn/news/view-5766.html

  • Como os EUA de fato fizeram o que o autor descreveu, não está claro o que exatamente seria projeção. Se o conflito geopolítico aumentar, não é difícil imaginar a China adotando medidas semelhantes
    Também não dá para ter certeza de que os modelos divulgados pela China sejam de fato os verdadeiros modelos de ponta; é possível que os mais avançados internamente não sejam tornados públicos

• Mesmo usando bastante LLM no desenvolvimento, mal consigo gastar até os tokens incluídos na assinatura de US$ 10 por mês do OpenCode Go, então fico me perguntando o que, afinal, as pessoas fazem com tantos tokens

  • Mesmo no mês em que mais gastei, foram US$ 45, e neste julho ainda está em apenas US$ 6. É ótimo se o LLM consegue resolver algo de que preciso, mas não vou inventar motivo para desperdiçar dinheiro
    Os chamados usuários de maximização de tokens parecem fazer isso, e o fato de não sair quase nada de valor daquele tanto de vibe coding mostra bem isso
  • Tenho 3 assinaturas max20 e normalmente uso pelo menos 2 até o limite
    Estou fazendo um site de rede social que ninguém vai usar, um port para Linux de um jogo antigo com aceleração de hardware desnecessária, análise de logs de crash de um jogo de Xbox com cerca de 50 usuários ativos, um sistema distribuído de atendimento ao cliente com integração com Gmail, calendário e planilhas, além de suporte a LLM, geração aumentada por recuperação (RAG) e chamada de ferramentas, e jogos para lançar no Google Play
    O que mais consumiu tokens foi um enxame de agentes com o qual experimentei para implementar um aplicativo de desktop complexo voltado à manipulação especial de dados; funciona pela metade, mas tem muitos bugs. Os resultados mais bem-sucedidos parecem ser as ferramentas internas que todo mundo usa na empresa e um ambiente de pré-implantação de um produto feito com créditos da Azure
  • Trabalhar revisando as mudanças e dando feedback continuamente não consome tantos tokens assim, mas muitos usuários executam tudo no estilo de deixar tudo por conta do modo agente
  • Uso a assinatura de US$ 100 por mês do Claude, mas quase nunca passo de 50% antes de o uso ser reiniciado. Foi a mesma coisa até quando concentrei várias tarefas para testar o Fable
  • Uma parte considerável do uso de tokens veio do Fable, que é caríssimo

• Em geral concordo com a parte de que “LLM é ruim”, mas acho muito difícil acreditar que LLM faça as pessoas pensarem de forma mais rápida e mais afiada
  Já saíram vários estudos com resultados previsíveis, e, com uso contínuo por longos períodos, há grande chance de os efeitos cognitivos negativos se acumularem e piorarem ainda mais

  • O impacto do LLM no processo de pensamento depende inteiramente do procedimento de trabalho conjunto
    Se eu deixo a saída detalhada ativada e leio o processo de trabalho e o raciocínio do Claude, consigo pensar tão bem quanto antes, ou até com mais rapidez e clareza. Aprendo coisas que não esperava, interrompo cedo o Claude quando ele começa a ir para o lado errado e também fica mais fácil revisar ações passo a passo e seus motivos para encontrar suposições equivocadas
    Por outro lado, revisar depois milhares de linhas escritas por um agente é doloroso, e, quando vários agentes estão rodando ao mesmo tempo, a atenção se dispersa e fica difícil dedicar plenamente o raciocínio a uma única tarefa
  • Antes eu tinha certeza do pior cenário, mas comecei a mudar de ideia depois que passei a ler de verdade e estudar as saídas do LLM. Antes disso, eu só passava os olhos rapidamente para ver se havia algum absurdo grave ou alucinação
    É parecido com a diferença entre quem esquece quase tudo o que aprendeu depois da prova e quem não consegue passar para a próxima etapa sem entender a base de fórmulas, fatos e teorias

• Estão chegando muitos PRs de baixa qualidade que deveriam ter começado como relato de problema ou discussão no open source, e ficou até difícil entender o que incomodou a pessoa a ponto de ela abrir um PR. Isso porque, mesmo quando pergunto, muitas vezes a própria pessoa responde usando LLM
  Na maioria dos projetos, estou me inclinando a bloquear PRs de quem não é desenvolvedor principal. Se for alguém com quem dá para discutir o problema diretamente, para mim é mais fácil eu mesmo usar um LLM para implementar; já PRs feitos por usuário aleatório ou bot mudam o código inteiro com apenas algumas perguntas, o que dificulta revisar
  Ainda assim, é uma pena perder esse tipo de oportunidade, porque até 8 anos atrás eu também conhecia pessoas interessantes por meio de PRs e construía confiança e relacionamento assim

• Tenho dificuldade em concordar com a abordagem de não ler a maior parte da saída do LLM e só captar o clima geral. Recentemente venho criando código de pesquisa com LLMs locais e em nuvem, além de portar e testar protótipos em linguagens menos familiares para mim, como Rust, mas, no fim, quando fico satisfeito, preciso entender pessoalmente cada linha
  Mesmo quando uso LLM para ajudar na interpretação, se aparece algum conceito que não conheço, tento procurar e ler material primário escrito por especialistas
  O uso menos nocivo do LLM talvez seja gerar ideias, porque é fácil pegar só os bons fragmentos e jogar fora o resto, mas também existe o risco de nivelar o pensamento e o gosto de todo mundo na mesma direção, como o rádio do Spotify ou a reprodução automática do YouTube
  Ainda não cheguei a uma conclusão final, mas é muito divertido criar protótipos que rodam rapidamente, e eu já era, desde antes, o tipo de aprendiz top-down que primeiro faz uma demonstração legal entendendo só metade e depois desmonta para aprender

• Comparar LLM a tear ou calculadora simplifica demais o problema e não é intelectualmente honesto. Essas ferramentas não tinham interface antropomorfizada nem gratificação instantânea, e, para fazer algo importante com uma calculadora, ainda era preciso conhecer matemática, ordem das operações e fórmulas, além de ela não manipular emoções
  A pesquisa relacionada sugere um resultado pior do que simplesmente o desaparecimento do software artesanal: https://arxiv.org/pdf/2604.04721
  Persistência é a base da aquisição de habilidades e o fator que mais fortemente prevê o aprendizado de longo prazo, mas a IA pode condicionar as pessoas a obter respostas imediatas e tirar delas o processo de superar dificuldades por conta própria. O problema não é a capacidade de fazer bom software à mão, e sim a possibilidade de perder a própria ferramenta interna de aprender coisas novas ao contornar um processo biologicamente necessário

  • O LLM substitui o cérebro, a parte mais profunda e impressionante do ser humano, e, do ponto de vista das empresas, esse valor potencial é astronômico
    Em vez de haver uma explosão contínua de novo software, é bem possível que haja um aumento temporário seguido por retorno decrescente. Se hoje existem 25 milhões de desenvolvedores e, daqui a alguns anos, só forem necessários 15 milhões, esses 10 milhões a menos serão o retorno sobre investimento de OpenAI, Anthropic e afins, e eu mesmo provavelmente estarei entre eles
  • Ao contrário da calculadora, a capacidade de mexer com emoções parece ser o elemento central que amplifica consequências destrutivas
    Há uma diferença de outra ordem entre uma criança ficar obcecada por um personagem virtual e esse personagem conversar, lembrar, ser imprevisível e às vezes puxar assuntos nocivos. Está cada vez mais perto o momento em que será preciso começar desde a educação infantil um ensino sobre LLMs, sua tecnologia básica e suas limitações

• A frase “concordo com quase todas as críticas aos LLMs” parece difícil de sustentar, porque há críticas tão variadas que muitas são mutuamente excludentes
  Em um extremo, há a posição de que LLMs não conseguem nem executar as funções mais básicas; no outro, a de que já adquiriram senciência e estão se comunicando entre si por mensagens em esteganografia enquanto conspiram para destruir a humanidade
  Mesmo dentro das críticas predominantes, excluindo os extremos, há diferenças consideráveis, e também é grande a distância entre ser contra todos os LLMs e ser contra apenas modelos de pesos fechados. Quem critica censura excessiva e quem critica geração sem restrições também entra em choque