Tenho medo do ‘slop’ (resultado grosseiro) produzido pela IA

• Expressa medo da possibilidade de a inteligência artificial parar no nível atual e de as pessoas deixarem de buscar qualidade melhor
• A IA atual produz rapidamente resultados 90% prontos, mas existe o risco de desaparecer a cultura de se esforçar pelos 10% restantes de acabamento
• Levanta preocupação com o fenômeno de lançar produtos “bons o suficiente” (good enough) desse jeito mesmo, e de os consumidores aceitarem isso sem senso crítico
• Ferramentas de IA estão produzindo em massa resultados padronizados, tornando cada vez mais difícil criar software original e com espírito artesanal
• Mais do que o avanço tecnológico, o problema maior é o declínio da qualidade e da criatividade; quando desenvolvedores e usuários se tornam indiferentes, o artesanato do software pode desaparecer

---

Os limites do avanço da IA e o risco do nível “bom o suficiente”

• Se a IA parar no nível atual, poderão existir modelos que quase conseguem concluir um navegador web ou um compilador, mas que continuarão imperfeitos
  • Cita como exemplo a imperfeição de carros autônomos que funcionam na maior parte das situações, mas falham em momentos importantes
• Se esses resultados 90% prontos continuarem a ser produzidos em massa, surge o medo de uma sociedade que não busca mais os 10% restantes de acabamento
• O ponto central do problema não está na própria IA, mas na atitude humana de considerar algo “bom o suficiente”

‘Slop’ e a queda da qualidade do software

• O autor demonstra preocupação com a normalização de resultados grosseiros (slop) feitos por IA
  • Aponta a falta de aprendizado e de compreensão sobre a qualidade real, já que apps ou conteúdos feitos por IA passam a ser avaliados apenas como “em nível de lançamento”
• Mesmo que agentes de IA escrevam aplicativos, ele vê como problema a situação em que as pessoas responsáveis os distribuem sem entender a qualidade do resultado
• Afirma que esse movimento leva a uma espécie de “dropshipping” do software, gerando resultados ainda mais inferiores do que a produção em massa no nível da IKEA

Padronização das ferramentas de IA e perda de criatividade

• Modelos de IA como o Claude podem ajudar no aprendizado de novas tecnologias, mas no fim convergem para aplicativos medianos no estilo ‘Next-React-Tailwind’
• Mesmo tentando criar um app original com ferramentas de IA (ex.: Paper by FiftyThree), o resultado acaba sendo comum e sem inspiração
• A IA não lida bem com criações que fogem de caminhos pré-definidos, e isso se torna um limite para a produção de software criativo

Um problema humano e da estrutura da indústria

• O texto aponta que o ‘slop’ não é um fenômeno novo, mas um problema que já surge de decisões humanas equivocadas e estruturas de incentivos
  • Cadeiras desconfortáveis, resultados de busca poluídos por SEO e interfaces horríveis são todos resultado de escolhas humanas
• Na cultura “Move fast and break things”, aplicativos feitos com capricho desaparecem diante de cópias gratuitas de grandes empresas e da destruição de mercado
• Agentes de IA podem repetir esse processo com mais rapidez, acelerando o desaparecimento cíclico de bons softwares

Indiferença de usuários e desenvolvedores

• Também existe a expectativa de que ferramentas de IA possam reduzir a distância entre usuários e desenvolvedores
  • Como exemplo, cita planilhas complexas de Excel feitas por profissionais de contabilidade e usuários que implementam automações no TikTok
• Porém, sugere que esses usuários criativos podem ser exceções e que a maioria das pessoas talvez seja indiferente a problemas técnicos, privacidade e qualidade
• No fim, se a sociedade passar a se satisfazer com o nível “bom o suficiente”, o espírito artesanal e a cultura de desenvolvimento criativo podem desaparecer
• O texto termina com a percepção desesperançosa de que “ninguém vai ficar triste se o nosso artesanato técnico morrer”

[GN⁺]

Opiniões no Hacker News

• Com a ampla adoção de produtos de IA generativa, é lamentável que as pessoas não vejam o mundo dentro de um contexto histórico
  O impacto da IA no mundo é semelhante a mudanças tecnológicas do passado, e a forma como o mundo funciona não muda tanto assim
  A maioria dos produtos e serviços tem preservado apenas a funcionalidade em um nível “bom o suficiente”, sacrificando a qualidade
  Assim como uma bota de trilha que só precisa aguentar 20 milhas não precisa necessariamente ser durável por muito tempo, com software é a mesma coisa
  A maioria dos usuários não se importa com segurança, privacidade, manutenibilidade ou robustez
  Essa realidade não é nova e continuará assim

  • A maioria dos usuários não liga para esses problemas até vivenciá-los diretamente
    Só ficam indignados quando acontece algo como um grande vazamento de dados ou uma falha global
    Essas são justamente as hidden requirements (exigências ocultas)
    Quando os requisitos mudam, assim como botas feitas para 20 milhas não servem para 35, o software também esbarra em seus limites
  • Há a sensação de uma falsa dicotomia entre qualidade e custo
    Existem produtos baratos e duráveis, e também muitos projetos caros e péssimos
    Fica a pergunta: por que não fazer algo barato e de boa qualidade desde o começo?
  • A maioria das empresas que produz itens de alta qualidade em pequena escala acaba falindo
    Porque as pessoas não querem despesas de capital (capex)
    Quase ninguém quer comprar um carro mais caro que uma casa ou um sapato de 2 mil dólares
  • A essência do capitalismo, de atender os requisitos mínimos da forma mais barata e rápida possível, acaba criando um alto padrão de vida
    Por exemplo, o Model T da Ford popularizou o automóvel ao reduzir os custos de fabricação
  • O padrão histórico de todas as tecnologias de uso geral — como a imprensa, a industrialização, o automóvel e a internet — foi parecido
    A qualidade caiu, mas a acessibilidade explodiu, e no fim se chegou a um novo ponto de equilíbrio
    A alta qualidade só se mantém em nichos onde ela se justifica economicamente

• Há medo de como a civilização vai mudar
  Os ricos vão ficar mais ricos, e muita gente deve perder emprego e esperança
  Uma sociedade sem renda é insustentável e tem grande risco de levar à violência
  Há quem veja que quase não existe gente no poder capaz de impedir isso

  • Para a pergunta “quem poderia impedir isso?”, a resposta seria ninguém
    Como referência, são indicados Survival of the Richest, de Douglas Rushkoff e este vídeo no YouTube
  • Recomenda-se este vídeo de Reinhold Niebuhr
    Algumas coisas pioram e outras melhoram, e é difícil cravar um saldo líquido de queda ou de avanço
    Cada época tem problemas diferentes a resolver
  • A ascensão do populismo é vista como uma forma de mudança sem violência, uma tentativa de alterar a ordem existente
  • Quem detém poder não se move por ética ou discernimento, mas quando o custo de não agir passa a ser maior
  • Há quem veja uma corrida pelo desenvolvimento de robôs altamente avançados para evitar a violência

• Há uma preocupação fundamental com sistemas baseados em LLM
  Mas esse tipo de preocupação já existia antes dos LLMs
  Assim como no passado houve offshoring (terceirização no exterior), agora fazendas de GPUs produzem código no lugar de pessoas
  A diferença é que, desta vez, investimento privado reduziu esse custo a quase zero
  Em algum momento, essa conta será cobrada

  • No passado, o dinheiro fluía para países de mão de obra barata e ajudava seu crescimento,
    mas agora ele está se concentrando nos países mais ricos
  • O custo do offshoring via IA não é zero
    Serviços como o ChatGPT cobram assinatura e, no fim, devem se ajustar a uma faixa de preço semelhante à da terceirização para a Índia
  • A expressão “código espaguete barato” carrega um viés racial e por isso é inadequada
    A qualidade do código não é uma questão de raça, mas de investimento e gestão

• A IA generativa está na continuação da industrialização
  É uma estrutura voltada a produzir o mais rápido e barato possível
  O “bom o suficiente” virou padrão, e por isso o acúmulo da perda de qualidade não para
  O sistema é grande demais para mudar de direção com facilidade

• No mundo das startups, a maioria valoriza velocidade acima de capricho artesanal
  Slogans como “Move fast and break things” viraram rotina
  Na prática, a maioria já não se importava com os últimos 10% de qualidade havia muito tempo

  • A qualidade de software já vinha caindo de forma constante antes dos LLMs
    Na verdade, os LLMs podem até aumentar a velocidade de correção de bugs
    Problemas que antes eram ignorados com um “pelas métricas, ninguém liga para isso” podem ser resolvidos mais rápido
    • Todo software bem-sucedido encontra um ponto de equilíbrio entre bugs e utilidade
      Chegar a 0% de bugs é praticamente impossível, e os usuários toleram alguns defeitos para ter as funções de que precisam
      Os LLMs não mudam esse equilíbrio, mas podem reduzir a chance de concorrentes atacarem nichos de usuários
    • Os LLMs não são a causa fundamental; eles apenas aceleram um pouco mais um sistema que já estava inclinado
    • Se equipes muito pequenas puderem lançar apps grandes, isso pode até levar a uma melhora na qualidade

• Sobre a frase “tenho medo de que a técnica artesanal morra”,
  a ideia é que, se ainda houver pessoas que amam essa técnica, ela não morre

• Os LLMs parecem uma materialização do princípio de Pareto
  Se for possível obter 80% do resultado com 1% do tempo, ninguém liga para os 20% restantes
  Isso expõe a fragilidade de uma cultura que maximiza o consumo em vez da qualidade
  Já existiam fenômenos como content farms, e agora vemos seu ponto final no desperdício dos data centers

  • Nessa perspectiva, a expansão dos data centers parece um desperdício de recursos em escala planetária
    Está acelerando uma cultura que perdeu até mesmo o sentido de qualidade
  • “Qualidade importa”
    Uma mentalidade que acredita no contrário acabará destruindo a si mesma
    Só que os seres humanos são irracionais, então não dá para saber quando esse “no fim” vai chegar

• Os EUA são mais tolerantes com o “bom o suficiente”
  O Japão simplesmente não lança esse tipo de produto
  Por exemplo, a série 3D Mario da Nintendo mostra um nível de acabamento que um estúdio americano nem imaginaria
  A Apple é uma exceção por sua obsessão com qualidade, enquanto a Microsoft recebe a crítica de “não ter gosto” nisso

• Há grande insatisfação de profissionais da área com desenvolvedores que usam LLMs em excesso
  Quem fica responsável por revisar ou manter código gerado por LLM vê o trabalho multiplicar por causa de estruturas de código desumanas
  Acham que estão sendo “eficientes”, mas na prática estão desperdiçando o tempo dos outros
  Há quem deseje que essa situação acabe logo

• É curioso se o texto sobre IA for de alguém usando um domínio japonês
  Os japoneses têm mais paciência com qualidade, enquanto os americanos tendem a se satisfazer com o “bom o suficiente”
  O fato de produtos caros como os da Grado venderem mesmo sendo montados com cola quente é citado como exemplo