O delírio coletivo dos LLMs no nosso local de trabalho

• Relato em primeira mão de uma situação contraditória em um local de trabalho que sofre com falta de verba, onde o orçamento para tarefas essenciais é cortado, mas o dinheiro continua fluindo para a adoção de IA
• Ao longo de anos, enquanto bônus foram cancelados e houve cortes de pessoal, licenças e bancos de dados, os gastos com consultores, workshops de LLM e licenças do ChatGPT e do Copilot foram aprovados imediatamente
• Em uma reunião corporativa com participação de centenas de pessoas, vários times tentaram projetos com LLM, mas nenhum deles teve sucesso
• Os casos gerais de uso apresentados se limitaram a demonstrações inúteis ou perigosas, como perguntar ao bot como ele está se sentindo, fazer um resumo de uma página do cardápio do almoço ou enviar e-mails suspeitos ao ChatGPT
• O autor define esse fenômeno como um delírio coletivo fora de controle e o avalia como um momento de quebra de confiança, ao perceber que coisas que a liderança poderia ter feito se quisesse foram deliberadamente bloqueadas até agora

---

Situação financeira contraditória e o contexto da adoção de IA

• O empregador vive uma crise crônica de orçamento, e vagas em aberto deixam de ser preenchidas e simplesmente desaparecem
  • Há 2 anos, os bônus dos melhores funcionários foram cancelados permanentemente
  • Recursos essenciais foram cortados, com apenas a mensagem de "se virem"
  • Vários departamentos estão sobrecarregados sem novas contratações, e licenças e bancos de dados importantes foram eliminados para reduzir custos
• Mesmo nesse contexto, apenas os gastos relacionados a IA foram tratados como exceção
  • Houve verba para contratar consultores que recomendavam "apostar tudo"
  • Houve verba para anos de workshops e seminários externos sobre LLM
  • Houve verba para licenças tanto do ChatGPT quanto do Copilot
• O texto critica que bônus dos funcionários e verbas de suporte ao trabalho estejam indo para golpistas, riscos de segurança, workshops inúteis e tecnofascistas

Fracasso total dos projetos corporativos com LLM

• Foram realizadas reuniões recorrentes em que cada departamento registrava, testava e depois apresentava resultados de projetos com LLM
• Apesar de ter participado de todas elas, o autor afirma que não houve um único caso realmente bem-sucedido
  • Centenas de pessoas, vários times, entusiastas de IA e projetos de todos os tipos tentaram de tudo
  • Todos os projetos acabaram em "não funciona", "não economiza tempo" ou "na verdade complica mais"
• Nem workshops, nem "engenharia de prompt", nem GPTs personalizados, nem documentos e templates preparados com antecedência conseguiram produzir efeitos reproduzíveis (não era na área de programação)
  • Toda tentativa era sempre uma aposta bagunçada, exigindo muito tempo com ajustes finos, repetição, verificação de saída e correção de erros
  • As maiores reclamações eram documentos específicos não considerados, alucinações e falhas em preencher ou editar documentos corretamente
  • Mesmo com licenças Enterprise, as limitações eram grandes demais

Demonstrações de casos gerais de uso sem sentido

• Também existiam reuniões para apresentar casos gerais de uso para tarefas do dia a dia, sem relação com projetos específicos
• Foi feita uma demonstração séria de uma função que perguntava ao bot: "Como você está se sentindo hoje?"
  • Não era piada nem sátira; foi apresentado como algo futurista e humano
  • O autor enfatiza que, se isso tivesse sido proposto 5 anos atrás como uma assinatura de milhares de dólares para ter conversas inúteis com um bot, a ideia teria sido ridicularizada, e que essa reação continuaria correta
• Houve uma demonstração em que alguém enviava ao ChatGPT a planilha de uma página do cardápio do refeitório na intranet para perguntar "qual é o almoço de quarta-feira"
  • A resposta do bot era mais longa do que ler a planilha inteira
  • Baixar, enviar e escrever o prompt levava mais tempo do que simplesmente ler a planilha
  • O bot é desnecessário para uma informação que dá para ver de relance
• Em um exemplo dado pelo próprio responsável de TI, recomendou-se salvar no desktop e depois enviar ao ChatGPT e-mails de spam, phishing ou com anexos suspeitos para verificar
  • O autor aponta o risco de induzir funcionários com pouca familiaridade técnica a salvar arquivos suspeitos no notebook de trabalho

O efeito Dunning-Kruger amplificado pela IA

• A IA amplifica o efeito Dunning-Kruger (Dunning-Kruger-Effect) nas pessoas, fazendo com que tudo o que tentam pareça mais inteligente e legítimo
  • Pessoas passam a fingir que estão fazendo algo importante e revolucionário enquanto realizam tarefas banais e sem valor
  • Defensores da tecnologia se sentem parte de uma grande revolução e imaginam o dia em que os críticos terão de pedir desculpas
• O autor demonstra preocupação com o fenômeno de pessoas responsáveis e competentes se transformarem, sem motivo claro, em garotos-propaganda de empresas de IA
  • Gente qualificada acaba rebaixada ao nível de vendedores de porta em porta mentindo sobre a eficácia de detergente

Hype puro e quebra de confiança

• A adoção foi forçada mesmo sem um problema concreto a resolver, e embora pelo menos 90% dos funcionários não tenham trabalho que realmente se beneficie de ferramentas como o Copilot
  • Problemas são inventados onde eles não existem, numa repetição de tentativas para consumir tokens e justificar assinaturas
  • O autor caracteriza isso como uma encenação para poder dizer à chefia: "pelo menos tentamos"
• Todo uso é justificado como "exploração" e "brincadeira", minimizando o impacto de desperdício de tempo, desperdício de dinheiro e poder de bastidores
• O texto questiona a velocidade da adoção de IA
  • Em um lugar que sempre dizia não ter dinheiro, uma tecnologia instável com alto custo inicial foi aprovada imediatamente
  • Uma tecnologia nova que normalmente passaria ao largo do setor público, desta vez recebeu toda a atenção
  • Uma organização em que mudanças levavam anos ou até décadas para ser implementadas montou num piscar de olhos a infraestrutura e a capacidade organizacional para IA
• Isso expõe que a lentidão das mudanças na organização não era o padrão inevitável, mas um projeto deliberado — um "momento em que a máscara caiu"
  • Fica revelado que os obstáculos não eram essenciais, mas mentiras arbitrárias
  • Para os funcionários, isso funciona como um momento de destruição total da confiança

Tarefas para o futuro

• O texto levanta a pergunta fundamental de como esquecer e seguir em frente depois de ver os adultos respeitados da organização se humilharem em nome do "progresso"
• Formou-se, ao longo de meses, uma cultura que parecia gaslighting repetido, levando a pessoa a se perguntar se não estaria enlouquecendo
• O autor afirma que não consegue esquecer essa experiência e a descreve como "minha segunda covid"
• Ao concluir, diz que fica sinceramente feliz por quem não passa por algo assim, e aplaude setores e pessoas que usam IA com sabedoria e alcançam bons resultados
  • Ainda assim, pede que não se negue a realidade desse tipo de situação, para que seja possível desabafar coletivamente sobre essa loucura

[cnaa97]

Mesmo que não haja resultados, talvez não seja um esforço para manter a organização e sobreviver de algum jeito...

[brilliant08]

Se esse esforço acaba sendo criticado por "deixar o dinheiro escorrer para golpistas, riscos de segurança, workshops inúteis e tecnofascistas", então provavelmente não foi um esforço tão bem empregado assim.

[GN⁺]

Opiniões no Lobste.rs

• Meu trabalho também não é tão ruim assim, mas a direção é a mesma. Não há dinheiro para novas contratações nem aumentos, mas sempre há dinheiro para consultores de negócios, licenças enormes de software corporativo COTS e assinaturas de IA

  • Parece alguém que trabalha em uma organização governamental sediada nos EUA. Fora do governo, quase ninguém usa a expressão COTS
    Mesmo tirando um pouco do sarcasmo, ainda é comum que, mesmo em organizações menos engessadas que o governo, seja mais fácil conseguir orçamento para “comprar coisas” do que para “pagar funcionários”

• O que o autor descreveu é uma situação em que a gerência é quase fatalmente incompetente na condução do negócio
  O autor deveria procurar um novo emprego com uma gerência menos incompetente. Se isso for difícil, precisa tomar outras medidas para sobreviver e preservar a saúde mental

  • Alguns meses atrás ouvi histórias bem parecidas de amigos na FAANG. Na época, tokenmaxxing era a política
    Isso não quer dizer que a FAANG esteja livre de incompetência fatal, mas sim que esse clima de “ah, então isso resume e-mails e o cardápio do almoço?!” está muito mais disseminado do que se imagina

• No geral, eu diria que minha experiência é um pouco mais positiva

  1. Se usados de forma irresponsável, agentes de código destroem a base de código. Tudo bem quando substituem protótipos pequenos e descartáveis ou SaaS completamente lixo, mas não servem para sistemas sérios. Claude Fable só cria um caos ainda maior
  2. Para usá-los com responsabilidade, é preciso autocontrole e as pessoas certas; nesse caso, agentes de código podem ajudar. O gargalo continua sendo, em grande parte, gente entendendo o código e alinhando expectativas com as partes interessadas, então não é tão transformador quanto muitos pensam. Ainda assim, eu sentiria um pouco de falta se todos desaparecessem. Não tenho vontade de escrever à mão um rascunho de código de teste contra alguma API esquisita de fornecedor
  3. Em muitas tarefas de mineração de dados em documentos, dá para ver claramente a vantagem dos LLMs baratos e escaláveis, se você puder aceitar a taxa de erro
  4. Gestores gostam de casos de uso de IA razoavelmente baratos e que funcionam bem
     Mas quando passo por um aeroporto e vejo anúncios de IA voltados para executivos, penso: é, a situação lá fora está realmente feia
  • Em certo sentido, isso me lembra o debate tipagem estática vs tipagem dinâmica. Com a equipe certa e experiência suficiente, dá para ser muito produtivo até com uma linguagem como Clojure, mas quando as pessoas começam a abusar da linguagem e bancar as espertas, aquilo pode virar um caos horrível e impossível de manter
    O uso de LLM me parece muito parecido nesse aspecto. Se você entende o que a ferramenta pode fazer e como aplicá-la com eficácia, ela realmente economiza tempo; mas, se o objetivo é só cuspir código o mais rápido possível, o resultado é uma bagunça difícil de atravessar