Cansei Disso

• A fadiga causada por isso, cujo nome nem sequer é dito, cobrindo toda a sociedade e parecendo uma presença inevitável
• Como na expressão “rubbish in and rubbish out”, tanto a entrada quanto a saída são vistas como lixo, revelando forte rejeição aos resultados e à experiência de uso
• Critica-se que, mesmo que ninguém tenha pedido nem desejado, quando os acionistas exigem, inúmeras recusas se transformam em aceitação
• Formuladores de políticas, imprensa, conversas de bar e até relatos de uso pessoal passam a girar em torno disso, ocupando até a conversa cotidiana
• O próprio fato de o leitor saber do que se trata sem que o nome seja dito é apresentado como prova do cansaço: isso já se infiltrou fundo demais

---

A fadiga causada por um “isso” sem nome

• O texto inteiro evita nomear diretamente um alvo específico, referindo-se a ele apenas como it
• Esse alvo é tratado como algo disseminado e que parece abranger tudo
• O foco está na visão de que é algo inevitável e que produz resultados desumanizantes
• A frase “rubbish in and rubbish out” condensa a postura de não confiar nem nas entradas nem nas saídas
• Repete-se a afirmação categórica de que ninguém pediu por isso e ninguém quer isso

Pressão social e invasão do cotidiano

• Ao dizer algo como “as pessoas mais brilhantes da minha geração pensam em maneiras de fazer outras pessoas usarem isso”, o texto critica uma situação em que talento e esforço são usados para ampliar sua adoção
• Mesmo que tenham existido inúmeros “não”, quando os acionistas começam a exigir isso, eles se transformam em “sim”
• Os formuladores de políticas passam a se mover na direção de se alinhar a isso
• Afirma-se que, para fazê-lo funcionar, são necessárias usinas nucleares reativadas, e que o resfriamento consome milhões de galões de água
• A imprensa o elogia ou o condena, e as conversas de bar acabam inevitavelmente chegando a esse assunto
• As pessoas falam sem parar sobre como o usam, e o próprio ato de usá-lo é descrito como algo sujo
• O fato de se saber do que se está falando sem que o nome seja mencionado uma única vez é um sinal de que isso já invadiu o cotidiano a ponto de se tornar cansativo

[GN⁺]

Comentários do Hacker News

• Estou cansado da expressão as melhores mentes da nossa geração. A primeira vez que vi foi na frase “as melhores mentes da nossa geração foram contratadas para vender anúncios”, mas saber fazer computadores rodarem com estardalhaço não transforma alguém em “melhor mente”
  Para mim, uma “melhor mente” deveria, acima de tudo, ter empatia, preocupar-se com o bem-estar dos outros, olhar filosoficamente para o estado do mundo, ter paciência e curiosidade, e ser não apenas inteligente, mas sábia
  Continuar colocando pessoas gananciosas no posto de “melhores mentes” por causa da capacidade delas de explorar os outros em benefício próprio é, em si, parte do problema

  • Essa citação específica é desagradável em vários níveis. Até dá para engolir a parte do “desperdício das melhores mentes”, mas o ponto central é “para vender anúncios”
    Marketing é uma das raras áreas da atividade humana em que o avanço tecnológico, em geral, piora a vida, fragmenta a atenção e esvazia a carteira
    Um marketing “ideal” 100% eficiente, assumindo uma vaca esférica, seria basicamente hipnotizar as pessoas para gastarem todo o dinheiro em produtos ou serviços arbitrários, e estruturalmente é isomórfico a um assalto. Como seria com 10% de eficiência? E 1%? Como violar a autodeterminação e o bem-estar financeiro de uma pessoa pode ser um bem social? Se ainda der lucro a 0,001%, então tudo bem cobrir o mundo inteiro de anúncios? Quantos anúncios você gostaria de levar cada vez que algum vizinho compra alguma coisa?
  • Não vou discordar que é uma expressão usada demais, mas isso é uma referência a Ginsberg. Não é necessariamente um elogio: https://www.poetryfoundation.org/poems/49303/howl
  • Depois de quase 15 anos trabalhando em TI, vejo que há boas cabeças tanto em TI quanto fora dela
    Mas também vi muita gente tola em TI que, só por entender algoritmos e estruturas de dados, acredita ser excelente em tudo. Não sei se é um fenômeno exclusivo de TI, mas o que o DOGE faz parece exatamente coisa desse tipo de gente
  • Na verdade, é quase o contrário. Isso não se refere apenas, nem principalmente, a desenvolvedores de software comuns
    É um lamento pelo fato de que, por causa das esquisitices da estrutura econômica, grandes solucionadores de problemas de várias áreas — como matemáticos, físicos e psicólogos de ponta — que, em um mundo melhor, estariam resolvendo problemas reais, acabam sendo direcionados para coisas como tecnologia de anúncios, que paga bem, mas arruína a vida das pessoas em larga escala
    Eu me lembro dessa expressão menos como uma forma de julgar pessoas pela inteligência e mais como um lamento por um mundo que aloca tão mal o potencial humano que os melhores solucionadores de problemas acabam sendo mobilizados para criar problemas para todos
  • Pelo contexto, “melhores mentes” pode ser entendido como “pessoas inteligentes que criam coisas novas”. É justo lamentar que elas poderiam usar a inteligência para melhorar a vida de todos, mas na prática muitas vezes a usam em coisas como tecnologia de anúncios

• Douglas Adams resumiu assim as reações à tecnologia: aquilo que já existia no mundo quando você nasceu é normal e natural; o que foi inventado entre os seus 15 e 35 anos é novo, empolgante e revolucionário, e pode virar carreira; o que foi inventado depois dos 35 é contra a ordem natural
  Dá para tentar adivinhar a idade

  • Parece mesmo que a geração mais jovem aceita mais a IA, mas o principal motivo parece ser que ela faz a lição de casa sem que seja preciso aprender nada. Pelo menos até o currículo educacional ter tempo de se ajustar a essa nova realidade
  • Vou aceitar essa. No ano passado, concluí um doutorado em ciência da computação sobre processamento de linguagem natural e geração criativa de texto, e acho ridículo o hype em torno dos grandes modelos de linguagem
    A academia segue modas tanto quanto a indústria. Esses modelos são treinados para prever o próximo token dado um contexto, e fazem exatamente isso bem. Então, quantos anos você acha que eu tenho?
  • Estou na casa dos 40 e acho a revolução dos grandes modelos de linguagem impressionante
    Em muitos aspectos, ela me lembra a era pontocom. É uma tecnologia realmente transformadora, cujo processo de realizar seu potencial talvez ainda não tenha chegado nem a 20%, enquanto as expectativas foram infladas a 200% do potencial, e também há uma bolha no mercado de ações ao redor disso
    Deixo o resto da história para a imaginação, mas, mesmo olhando com uma cabeça um pouco fragmentada e rígida, parece muito claro o que vai acontecer a seguir, e depois disso, e depois de novo. E é aí que se chega à parte realmente boa. Por isso não é nem entediante nem cansativo. Trabalhar com tecnologia hoje é tão divertido quanto era quando eu era jovem e, em certos aspectos, sou até mais feliz
  • Gosto muito de Douglas Adams, mas há um motivo para ele ser mais conhecido como escritor de comédia, não como sociólogo. Trazer essa citação para a conversa não acrescenta nada e só soa como um ageísmo sutil
  • Por essa regra, o palpite estaria errado
    Na verdade, isso não é uma questão de idade. Por exemplo, coisas como “NFT”, “web3.0” e “Blockchain technologies” também tiveram gente de todas as idades embarcando no hype

• Viver sempre online é uma escolha. Se você escolhe não se expor constantemente a isso, não há do que se cansar. “O assunto do momento” só vira assunto do momento quando você se cerca de pessoas que se importam profundamente com ele

  • Se você trabalha na indústria de tecnologia, é difícil evitar. No último ano, ouvi na empresa “vamos tentar usar IA nisso” pelo menos duas vezes por semana
    Uso grandes modelos de linguagem para tarefas específicas, e há coisas que eles fazem muito bem. Mas o hype geral, de pessoas não técnicas tentando enfiá-los à força em todo caso de uso do mundo, é realmente exaustivo. Ter que explicar pela enésima vez por que o que estamos tentando fazer não se encaixa em IA™ é cansativo não porque seja preciso explicar de novo, mas porque você sabe que, na semana seguinte, terá que fazer isso mais algumas vezes
    Nesse hype, a IA é tratada quase literalmente como magia. Como se pudesse fazer qualquer coisa, bastando desejar que a IA faça. A esta altura, nem sei mais o que IA quer dizer; virou um termo guarda-chuva para pensamento mágico
    É cansativo e, com certeza, entediante
  • Sim, mas pessoas como o autor querem uma comunidade melhor. Você até pode se desconectar completamente da internet, mas ainda precisa viver em um mundo sempre online
  • Em geral, eu concordaria que basta escolher não se envolver com “[o assunto do momento]”, mas a IA é ampla demais, então, queira ou não, você acaba esbarrando nas consequências dessa tecnologia
    Esses ciclos irritantes de hype normalmente não elevam permanentemente a linha de base de ruído da internet, nem fazem DDoS em sites aleatórios tentando raspar dados, nem quebram a premissa fundamental de que se pode acreditar no que se vê e ouve

• Isso é um absurdo. Criamos a maior ferramenta da história da humanidade e, mesmo assim, as pessoas reclamam
  Ela ajuda a programar, aprende CAD e permite corrigir problemas de modelagem, ajuda a resolver problemas em motores de sopradores de folhas de 2 tempos e explica algoritmos complexos do LeetCode passo a passo, de forma consistente. Literalmente sabe tudo, e ainda assim as pessoas continuam reclamando

  • Nem chega perto de ser a maior ferramenta da história da humanidade. É justamente esse tipo de equívoco e exagero que faz as pessoas se cansarem, ficarem entediadas e frustradas com IA
    A verdade incômoda é que a IA é a melhor vigarista do mundo. A ferramenta e o hype ao redor dela criaram um ambiente muito eficaz para enganar as pessoas, fazendo a IA parecer conhecedora e útil mesmo quando, na prática, não é. Quem é enganado não entende o suficiente do assunto para perceber que está sendo passado para trás; e, quando percebe, o orgulho impede de admitir
    Por isso, pessoas que conhecem profundamente uma área dizem que a IA comete erros, enquanto gente como CEOs, sem profundidade técnica real, elogia a IA. Eles sabem apenas o bastante para achar que entendem o que é um “bom resultado”, mas não o suficiente para reconhecer uma bobagem embrulhada de forma convincente
  • O fato de haver gente dizendo seriamente coisas como “literalmente sabe tudo” é mais ou menos metade do motivo pelo qual alguns ficaram entediados com IA
  • As pessoas querem continuar sendo valiosas, e essa ferramenta tira isso delas. Enquanto ainda encontrarem uma forma de contribuir de maneira significativa, tudo bem
    Mas é outra questão o fato de muitas habilidades já dominadas terem se tornado, na prática, inúteis. Com o tempo, se essa ferramenta melhorar, ela pode tirar até a agência para mudar o ambiente em que você se encontra
  • Literalmente não sabe nada
    Não pode ter conhecimento
    Por isso é entediante
  • Uma ferramenta que continua gerando informações erradas, não tem percepção real nem estado interno, e não percebe os próprios erros mesmo quando eles são apontados explicitamente, é, para ser sincero, bem inútil
    Você já não teve uma conversa assim com o ChatGPT? Ele apresenta algo como “aqui está a solução!”, você diz “está errado, você precisa fazer X”, então ele responde “você tem razão, minha resposta estava errada”, repete o que você disse e apresenta uma correção, mas continua errada. Você diz de novo “eu falei para fazer X”, e ele responde “agora ficou claro”, mas erra outra vez
    Pior ainda: ele também pode ser enganado. Se o ChatGPT disser corretamente “X + Y = Z”, mas o usuário afirmar, incorretamente, “não, X + Y = Q”, ele pode responder “você está certo, X + Y = Q” e explicar isso
    Pode ser útil para gerar código ou texto boilerplate, mas mesmo aí erra com frequência

• Sinceramente, está entre os assuntos menos interessantes para conversar. Quando alguém diz “usando IA aqui para…”, eu desligo na hora

  • IA é meu trabalho principal e, no geral, concordo. Respondo com prazer a perguntas sobre detalhes de como funciona, mas conversas do tipo “então a IA no futuro…” são tediosas demais para aguentar
  • Recentemente tive uma conversa que começou com “será que não dá para usar IA para inferir, com base nos metadados desses estudos públicos, se é grupo experimental ou grupo de controle?”
    Os dados estavam em tabelas, e as pessoas escrevem “control”, “ctrl”, “ctr”, “t0” de todo jeito, em nomes de arquivos, colunas arbitrárias e por aí vai. Funcionou bem, fiquei feliz por ter tentado. Acho que, com o tempo, vamos extrair valor disso, e ainda bem que ninguém desligou da conversa

• Não é nem um pouco entediante
  Há hype, sim, mas é importante estarmos aqui para discutir seus usos, abusos e impactos. Algumas partes são interessantes, e outras são interessantes de tão ruins
  Entendo o cansaço. Mas vale a pena conversar sobre se está sendo usada corretamente — ou se está sequer sendo usada

  • Depois de mais ou menos um dia, ficou entediante. Como engenheiro, não há absolutamente nada de realmente interessante em grandes modelos de linguagem

• Pessoalmente, um dos melhores conselhos que recebi é este: aprenda a viver na zona cinzenta e não seja dogmático
  O mundo não é preto e branco. Pegue um pouco de cada lado, mas não tenha medo de mudar de ideia sobre certas coisas
  Para alguns pode soar óbvio e, em teoria, é simples. Mas, na prática, pelo menos na minha experiência, não é nada disso. Exige uma mudança de mentalidade e de visão de mundo, e em geral fica mais difícil com a idade, porque você quer preservar o modo de vida de que gosta

  • Tratar um poema apenas como um discurso literal e prolixo sobre um tema geral já é, por si só, uma abordagem muito preto no branco
    É verdade que o autor tem uma visão negativa sobre grandes modelos de linguagem, mas os sentimentos que este texto evoca vão ressoar com muita gente. Inclusive com alguém como eu, que usa grandes modelos de linguagem como usuário pesado. Você não precisa concordar completamente com este texto, sempre. Ainda assim, é algo que precisava ser dito
    Às vezes quero tirar meu chapéu de mago da tecnologia, colocar o chapéu de simples ser humano e apreciar um poema como este. Depois suspirar, reavaliar o impulso de olhar o celular, reavaliar também o impulso de falar de planos para ganhar dinheiro ou de planos para perseguir desejos sexuais, olhar para um amigo no bar, perceber que ele não estará ao meu lado para sempre e dizer de verdade: “como você está, meu amigo?”

• Ninguém quis isso? Ninguém deseja isso?
  Você não está olhando direito
  Eu quero. Acho que é a única chance de resolver rapidamente problemas enormes e complexos como envelhecimento, câncer e Alzheimer

  • Deve ser a única chance de resolver rapidamente problemas enormes e complexos, como reduzir custos altos de mão de obra
  • Envelhecer não é um problema. É algo normal
  • Soa como dizer que você quer curar a vida. Somos pedaços de carne destinados a morrer, então é melhor aproveitar a vida do que se preocupar em “resolver” o inevitável
  • É claro que aprendizado de máquina é muito útil para lidar com esses problemas. Basta lembrar avanços como o AlphaFold. Mas eu contestaria a ideia de que é “nossa única chance”
    Primeiro, já há avanços enormes acontecendo nas áreas que você mencionou. Exaltar a IA como “a única chance” é um exagero considerável e, considerando que essas pesquisas sofrem com séria falta de financiamento, pode até ser uma afirmação prejudicial
    Segundo, este poema parece tratar mais de grandes modelos de linguagem e chatbots glorificados do que de aprendizado de máquina em geral. Nesse contexto, não vejo isso como tremendamente útil para a pesquisa de Alzheimer, e certamente não como “a única chance”
  • Espero que resolver o envelhecimento esteja fora do alcance até da IA mais inteligente. Não há caminho mais certo para um mundo cheio de pensamento engessado, com humanos enrijecidos agarrados ao poder impondo seus modos às gerações mais jovens
    Sem falar no impacto ambiental que humanos vivendo para sempre causariam

• Finalmente estou aprendendo a colocar testes unitários em código Python. Era algo que eu vinha adiando havia muito tempo. Bioinformatas também produzem uma boa quantidade dos códigos mais bagunçados do mundo
  Claude está me guiando pela mão e verificando se entende cada caractere que digito. Até agora, tudo bem
  Ainda assim, foi um texto agradável de ler e me fez rir. Dá para aplicar a várias coisas, como criptomoedas, política, Rust, Nix, publicidade e “as maiores inteligências da nossa geração”
  Presumo que seja um texto sobre IA por causa da menção a usinas nucleares, mas, de todo modo, os temas que mencionei não são nada entediantes