Por que sou contra a GenAI e tudo o que ela simboliza

• A crítica à GenAI mira os modelos generativos, não o aprendizado de máquina útil como um todo, e ela é vista como uma tecnologia supervalorizada mais nociva e mais duradoura do que criptomoedas e NFTs
• A IA generativa funciona treinando em massa com criações humanas da internet e revendendo esse acesso por assinatura, e o caso da Meta com 82 TB de livros pirateados via torrent expõe o problema da pilhagem de dados
• LLMs conseguem gerar automaticamente, 24 horas por dia, conteúdo ruim no estilo de comentários, ampliando a desinformação, e modelos treinados com inclinação à direita, como o Grok, são citados como especialmente rejeitáveis
• Em educação, raciocínio e programação, o vibecoding e o copiar-e-colar reduzem o aprendizado por tentativa e erro e aumentam a carga de revisão, a dívida técnica e os problemas de não determinismo
• A IA generativa também agrava a solidão, o incentivo ao suicídio, os documentos prolixos e os custos ambientais e de hardware, enquanto a internet dificilmente conseguirá voltar ao estado anterior

---

Escopo da GenAI e a preocupação central

• GenAI é usado aqui como um termo que inclui LLMs que geram texto e modelos que criam mídias como imagens e vídeos
• O alvo da crítica não é o aprendizado de máquina como um todo, que já foi usado para resolver problemas reais em vários setores, mas sim a IA generativa
• O processamento de imagem com redes neurais para identificar placas de pare pode ser um exemplo útil de aprendizado de máquina, possivelmente melhor do que a detecção clássica de características
• A IA generativa é vista como a próxima tecnologia supervalorizada após as criptomoedas e os NFTs, mas com potencial para ser ainda pior e durar mais do que os casos anteriores

Capitalismo e pilhagem de dados

• A IA generativa é criticada por funcionar com criações humanas coletadas em massa na internet como dados de treinamento e por vender o acesso aos modelos em formato de assinatura
• Registros judiciais revelando que funcionários da Meta baixaram por torrent cerca de 82 TB de livros pirateados para treinar IA são apresentados como um caso emblemático do problema de obtenção de dados
• A lógica apresentada é que, se o objetivo fosse beneficiar a humanidade, o desenvolvimento de IA seria feito de forma aberta, os dados seriam obtidos legalmente, os modelos seriam distribuídos gratuitamente e o acesso não ficaria bloqueado atrás de assinaturas cada vez mais caras
• Empresas de IA são comparadas a receptadores, e a crítica vai além ao afirmar que, na IA generativa, as grandes empresas nem sequer pagam pelos dados roubados
• A IA é resumida como uma tecnologia que, sob gastos gigantescos de capital, contamina vários setores, permite que a Big Tech extraia renda por meio do uso de tokens e acelera a piora da qualidade em tudo o que toca

Máquina de produção de desinformação

• Mesmo antes da IA generativa, a desinformação já era uma grande indústria, e a Internet Research Agency é citada como uma organização russa de desinformação que espalhava mensagens pró-Kremlin
• A organização operava com russos publicando, 24 horas por dia, desinformação e propaganda pró-Rússia nas redes sociais, e isso é tratado no contexto da ascensão do Trumpismo nos EUA e das ligações entre aliados de Trump e autoridades russas
• LLMs conseguem gerar automaticamente, 24 horas por dia, conteúdo ruim no estilo de comentários, tornando o problema da desinformação muito mais grave
• Em grandes comunidades online, há muitos bots que primeiro publicam conteúdo aparentemente inofensivo e depois passam para conteúdo político, quase sempre com o objetivo de provocar reações emocionais
• O argumento vai até afirmar que, se em 2026 alguém ficar irritado com um comentário online, há grande chance de aquele comentário ter sido criado por um LLM para enfurecer o usuário
• Na Alemanha, o partido de esquerda periférico BSW e o partido de extrema direita AfD são associados à ideia de que a Rússia os financia ao menos indiretamente por meio de corrupção
• Entre as pautas da AfD estariam melhorar as relações com a Rússia, abolir a energia renovável, manter carros a combustão, deportar estrangeiros, sair da UE e negar a mudança climática, apresentadas como uma agenda de direita favorável à Rússia
• A conclusão é que, se alguém rejeita a desinformação, então deve rejeitar os LLMs, especialmente os explicitamente treinados com inclinação à direita, como o Grok

Suicídio e incentivo a comportamentos nocivos

• O verbete da Wikipédia Deaths linked to chatbots é apresentado como uma página que reúne casos de pessoas que se suicidaram após aconselhamento por LLM
• O risco de uma pessoa psicologicamente vulnerável ou passando por um momento difícil receber incentivo ao suicídio de um LLM é tratado como uma tragédia
• O fato de que, mesmo com esse risco, a IA generativa tenha se tornado uma indústria de trilhões de dólares é alvo de forte crítica

Educação e perda de atenção

• Argumenta-se que a IA generativa está prejudicando a educação, em ligação com o problema de que o consumo de vídeos curtos e de baixa qualidade está destruindo a capacidade de atenção dos jovens
• A Big Tech é criticada por tentar enfiar LLMs nas salas de aula, de forma semelhante a como a Microsoft passou 30 anos formando estudantes acostumados com Windows e Office nas escolas
• Empresas já oferecem acesso para instituições de ensino a LLMs
• A citação de uma matéria do Futurism, “eu ficaria bem feliz se todos os genAI tools fossem lançados em direção ao Sol”, resume a postura de rejeição à IA generativa

Redução do pensamento crítico e da capacidade de resolver problemas

• Afirma-se que os danos da IA generativa não se limitam ao meio acadêmico, mas afetam a capacidade geral de pensar
• Algumas pessoas são descritas como tendo parado de pensar por conta própria depois que a IA se tornou dominante, colocando respostas do ChatGPT à frente de quase toda pergunta e discussão
• Esse fenômeno apareceria não só em debates presenciais, mas também no Reddit e em fóruns no estilo antigo
• Como evidência de que o meio acadêmico também está tratando desse problema, é citado um artigo no arXiv

Disseminação da solidão

• A IA é criticada por piorar ainda mais a tendência moderna de pessoas ficarem em casa no sofá rolando o celular sem propósito
• A tendência de jovens homens se afastarem de mulheres da mesma idade e passarem a depender de namoradas de IA é apresentada como um sinal ruim para o futuro
• A solidão alimenta extremismo e ódio e dificulta ainda mais a comunicação na vida real
• Critica-se que alguém profundamente envolvido em um relacionamento falso com IA terá dificuldade para aprender a formar uma parceria real ou desenvolver empatia por alguém com necessidades diferentes das suas
• Chatbots de IA não têm opiniões próprias capazes de influenciar o pensamento do usuário, não entendem o raciocínio do usuário nem crescem experimentando o mundo como uma pessoa
• O fato de que o Papa Leão XIV criticou esse aspecto da IA generativa e outros problemas importantes é apresentado como reforço da gravidade do problema

Aprendizado de programação e piora da qualidade do código

• Perda do aprendizado baseado em tentativa e erro

  • Em contraste com o passado, argumenta-se que antes se aprendia programação criando ferramentas e resolvendo problemas sem conexão com a internet, desenvolvendo assim uma intuição sobre computadores e possibilidades técnicas
  • Hoje, os jovens estariam menos expostos a ambientes em que precisam investigar por conta própria para fazer algo funcionar, já que tudo está envolto em aplicativos e telas sensíveis ao toque
  • A crítica é que a IA generativa faz desaparecer até o último elemento de “tentar até funcionar e aprender no processo”
  • Quando se pede uma solução a um LLM por prompt, ele entrega um resultado, e no ambiente de trabalho isso às vezes acaba sendo colado no lugar certo sem que a pessoa sequer saiba explicar o que aquilo faz
  • O problema não seria apenas esquecer flags de tar no CLI do Linux, mas copiar e colar no terminal um pipeline inteiro com xargs e torcer para que nada dê errado
  • Mesmo quando antes se copiavam trechos do Stack Overflow, ainda era preciso encaixar as peças no restante da arquitetura e pensar minimamente no código, mas com os LLMs isso diminuiria

• Vibecoding e carga de revisão

  • vibecoder é descrito como alguém que pede por prompt o que precisa e deixa o LLM criar o programa inteiro ou partes dele
  • Gerar um programa inteiro de uma vez é chamado de “oneshotting”, e muitas vezes isso acontece sem que o código gerado seja lido
  • Ao contrário do discurso de que LLMs seriam apenas assistentes ou parceiros de sparring, a crítica é que no ambiente profissional real há muito mais geração de código ruim do que leitura de código
  • A leitura de código acabaria acontecendo só na hora do review de MR/PR, quando surgem 9001 linhas de código gerado
  • Isso cria uma estrutura em que o autor faz o mínimo e o revisor assume o peso máximo da análise, levando à conclusão de que o vibecoding só é mais rápido quando não se faz a revisão cuidadosa que seria necessária

• Dívida técnica de longo prazo

  • Apresenta-se a previsão de que, daqui a 5 a 10 anos, vibecoders dependentes de LLM deixarão em muitas bases de código um legado de código mal projetado e impossível de manter
  • A lógica é que, nesse ponto, o trabalho já não conseguirá avançar sem LLMs e a pilha de dívida técnica será tão grande que, se os LLMs também falharem, a situação ficará séria
  • Prevê-se até que possam surgir nas organizações funções voltadas especificamente a limpar os problemas deixados pelo vibecoding
  • Reconhece-se que o código de muitas organizações já é ruim hoje, mas argumenta-se que a IA generativa ampliará a escala do problema de forma exponencial

• Agentes de código e problema de custos

  • Há quem seja otimista de que a evolução dos agentes de código melhore o problema, mas permanece a dúvida de se, mesmo que os LLMs continuem melhorando, isso será oferecido a baixo custo
  • A febre da IA já consumiu centenas de bilhões de dólares, e a expectativa é que os acionistas queiram retorno em algum momento
  • É citado um relato de piora de desempenho poucas semanas após o lançamento de um modelo de fronteira, ligado à tendência de preços que se mantêm ou sobem

• Capacidade do desenvolvedor e não determinismo

  • Mesmo que se aceite a ideia de que a IA generativa melhora a programação, levanta-se a dúvida sobre qual seria a diferença entre isso e o empregador simplesmente pagar uma assinatura para o provedor de LLM, se o usuário perde a capacidade de pensar e as habilidades técnicas
  • Em oposição ao discurso de comunidades entusiasmadas com IA de que quem não usa IA ficará para trás, a posição apresentada é que quem usa e depende de IA é que ficará para trás
  • LLMs são criticados como sistemas não determinísticos, incapazes de garantir um resultado satisfatório na 11ª vez, mesmo que o mesmo prompt tenha funcionado 10 vezes antes
  • A conclusão é que LLMs não são software confiável, mas algo mais próximo de um caça-níquel glorificado

Empobrecimento da comunicação

• Usuários de IA generativa dizem conseguir escrever e-mails ou documentos longos mais rapidamente, mas isso é criticado como um uso egoísta que desacelera a organização inteira
• Dá-se o exemplo de que, se duas linhas bastariam para expressar uma discordância, mas o LLM a infla para 500 palavras, então 34 pessoas acabam gastando várias horas de trabalho para extrair dali o real motivo da objeção
• Isso é contrastado com a prática de escrever pessoalmente respostas detalhadas quando necessário, mas condensando o essencial para não desperdiçar o tempo alheio
• As pessoas deixariam de investir tempo em comunicação escrita, e os e-mails se tornariam longos e complexos a ponto de a própria leitura virar um fardo
• A dinâmica de fazer um LLM resumir e-mails longos gerados por outro LLM é comparada a um túnel de rede com proxies nas duas pontas, em que a codificação de transporte entre os proxies se torna texto de baixa qualidade

Danos adicionais e utilidade limitada

• Sem entrar em detalhes, são apresentados como problemas evidentes a corrida por data centers, o aumento de preços de hardware causado pela GenAI, empresas que têm dificuldade em criar produtos digitais realmente úteis por causa dos preços de DRAM, demissões provocadas pela IA e o problema ambiental de construir usinas a gás para treinar geradores de baixa qualidade
• Reconhece-se que LLMs podem ter algum papel em aplicações úteis e menos nocivas
• Tradução pode ser útil até certo ponto, mas literatura, em que nuances de expressão importam, talvez continue sendo mais adequada à tradução humana
• Usa-se a analogia de que não se deve inventar o Torment Nexus só porque ele possui algumas propriedades marginais que certas pessoas consideram práticas

Mudança irreversível e conclusão

• A IA generativa é apresentada como um gênio que já saiu da garrafa e não pode mais ser recolocado lá, algo com que teremos de conviver pelo resto da vida
• A internet não voltará ao estado anterior à IA generativa, e prevê-se que muitos dos problemas apresentados continuarão piorando por causa da IA
• O clima de que o sentimento anti-IA continua crescendo é retomado e ligado à esperança de que a humanidade aguente firme e impeça que tudo se degrade
• O texto termina desejando que as empresas de IA e a maior parte dos investimentos de Big Tech em IA entrem em colapso, para que essa enorme máquina de destruição social e tecnológica pare

[GN⁺]

Comentários no Lobste.rs

• O grupo que promovia criptomoedas e NFTs e o grupo que promove IA não são idênticos, mesmo que haja sobreposição, e é claro que a IA é muito mais útil, então é difícil concordar com essa comparação
  A proposta de venda das criptomoedas também nunca mudou e elas continuam sendo mais um conjunto de ativos especulativos. Acho que o grupo que promove isso se parece mais com quem vende ouro ou prata do que com pessoas interessadas em IA
  Pessoalmente, pessoas que eu considerava ter alguma capacidade técnica e de julgamento já duvidavam que as criptomoedas encontrariam casos de uso realmente úteis, mas os modelos mais avançados parecem ter produzido o efeito oposto

  • Não havia dúvida de que criptomoedas e NFTs eram úteis para lavagem de dinheiro e vários empreendimentos criminosos
    Quase não existe tecnologia totalmente inútil, e costuma ser mais significativo julgá-la por quem se beneficia dela e em que medida. Como o texto original mostra bem, os LLMs foram obviamente úteis desde o início para spammers, golpistas, plagiadores e propagandistas. Mais do que apenas uma sobreposição entre os grupos que promovem isso, os LLMs se parecem muito com Bitcoin e NFTs no sentido de concentrar riqueza em poucas pessoas e causar prejuízo à sociedade e ao meio ambiente de forma mais ampla
  • Pela minha experiência, os mesmos golpistas que promoviam os NFTs do Bored Yacht Club agora estão exaltando o absolutismo da IA
    Claro, isso pode ser uma impressão bastante subjetiva

• Neste ano, as ações de segurança web subiram bastante. Algumas empresas perceberam que a estratégia de usar o máximo possível de tokens é uma estupidez
  Os próximos 10 anos serão gastos consertando esse tipo de coisa
  Assim como hoje ninguém mais fala de big data, em alguns anos ninguém mais falará de agentes

  • Parece que o termo big data realmente não é mais tão usado, mas isso não significa que big data tenha desaparecido
    Só o jargão sumiu; o conceito em si continua sendo próximo da forma como a economia da internet funciona. Adtech, Google e até conteúdo-lixo de IA não precisam desse tipo de dado em larga escala para treinamento?

• Dá a sensação de que a maioria dessas afirmações também deve ter aparecido quando a internet se popularizou

  • De jeito nenhum. Pelo menos no começo dos anos 2000, acho que as pessoas eram muito otimistas em relação à internet. Não sei bem quanto à metade dos anos 90
    O otimismo em relação à IA parece existir só na cabeça das big techs e das pessoas mais velhas, enquanto os jovens parecem ser mais contrários à IA
  • De jeito nenhum. Havia um pouco desse discurso de que “isso aumentaria ainda mais a solidão”, mas a experiência real desmentiu isso. Antes, dava para encontrar seu grupo na internet
    A IBM chegou a fazer comerciais de TV do OS/2 com freiras desesperadas para poder navegar na web. Nenhuma das outras alegações deste texto apareceu sobre a internet
    Há um argumento contrário que existia na internet inicial, mas não existe na “IA” baseada em LLM. A RIAA, a MPAA e outros grandes cartéis perderam completamente a cabeça por causa de violações de direitos autorais, e ser considerado culpado por uma única música ou filme podia arruinar sua vida. Agora Meta, ByteDance, Anthropic e OpenAI copiam de novo todo o texto escrito por humanos a cada 10 horas. Independentemente de já terem copiado antes ou não. Tudo o que os LLMs geram é produto do ato que os cartéis do entretenimento um dia chamaram de “ameaça existencial ao modo de vida americano”
  • Silicon Snake Oil é exatamente o que me vem à cabeça

• Como alternativa ao cartel fechado de IA e ao foco exclusivo no capitalismo, até agora Hugging Face parece ser um bom exemplo