O verdadeiro prazo final não é o dia em que a IA vencer os humanos, mas o dia em que os humanos deixarem de pensar por conta própria

 (theargumentmag.com)
8 pontos por GN⁺ 2025-10-06 | 3 comentários | Compartilhar no WhatsApp

> "Você tem 18 meses"

  • Mais grave do que a previsão de que a IA substituirá todos os empregos em 18 meses é o fenômeno de os próprios humanos atrofiaram suas capacidades diante de novas máquinas
  • Escrita e leitura são os dois pilares gêmeos do pensamento profundo, mas com a chegada de IAs generativas como o ChatGPT, estudantes estão terceirizando a escrita e abandonando a leitura, enquanto a própria capacidade de pensar entra em rápido declínio
  • Nos EUA, a pontuação média de leitura atingiu o nível mais baixo em 32 anos, e até estudantes de universidades de elite estão entrando sem nunca terem lido um livro inteiro
  • Escrever e ler não são habilidades simples, mas meios de reestruturar o pensamento e o conhecimento humanos, e seu declínio significa a perda da lógica simbólica complexa e da capacidade de pensar em sistemas
  • Na era da IA, as competências centrais que nossos filhos precisam ter são a paciência para ler textos longos e complexos, a capacidade de sustentar ideias conflitantes ao mesmo tempo e o embate intenso no nível da frase — e isso agora virou uma questão de escolha

Tempo sob tensão do pensamento (Time Under Tension)

Aplicando um conceito do fitness ao pensamento

  • No fitness, "tempo sob tensão" é a diferença entre fazer um agachamento com o mesmo peso em 2 segundos ou ao longo de 10 segundos
    • O segundo é mais difícil, mas constrói mais músculo
    • Mais tempo significa mais tensão; mais dor, mais resultado
  • O pensamento também se beneficia de um princípio semelhante
    • A capacidade de permanecer com paciência diante de ideias quase desconectadas ou rompidas entre si
    • E, a partir disso, entrelaçá-las de forma combinatória em algo novo

Exemplo do processo de escrita de um ensaio

Redefinindo o problema central

  • O problema dos próximos 18 meses não é que a IA vá demitir todos os trabalhadores ou que estudantes perderão a competição para agentes não humanos
  • A questão é se vamos degradar nossas próprias capacidades diante de uma nova máquina
  • Ficamos tão obcecados com as formas pelas quais a tecnologia pode nos superar que ignoramos as muitas formas pelas quais nós mesmos podemos nos tornar incapazes

O alerta dos 18 meses

  • As previsões dos líderes de IA

    • Mensagem transmitida por vários executivos e pensadores importantes de IA: os humanos manterão vantagem sobre a IA apenas até o verão de 2027
    • A perspectiva é que uma explosão nas capacidades da IA deixe formas de vida baseadas em carbono para trás
    • Há previsões de eliminação de até "metade de todos os empregos de colarinho branco de nível inicial"
    • Até cérebros de nível Nobel poderiam temer que designers de IA criem "um país de gênios dentro de um datacenter"

  • A ansiedade dos pais

    • Nos últimos meses, a pergunta que mais ouvi de pais foi: "Se a IA vai ficar melhor do que nós em tudo, o que nossos filhos devem fazer?"
    • Se a IA generativa fizer programação, diagnósticos e resolução de problemas melhor do que programadores, radiologistas e matemáticos
    • Até cursos tradicionalmente "seguros", como ciência da computação, medicina e matemática, podem não ser seguros

  • Um novo olhar para a realidade

    • Mais importante do que prever o futuro é descrever a realidade que já existe
    • Não sabemos se a IA tornará trabalhadores inúteis em alguma data imaginária
    • Mas já é possível ver como a tecnologia está afetando agora mesmo nossa capacidade de pensar profundamente
    • O autor se preocupa muito mais com o declínio das pessoas que pensam do que com a ascensão de máquinas pensantes

O fim da escrita, o fim da leitura

  • A disseminação da trapaça com IA

    • Matéria de capa da New York Magazine em março de 2025: todo mundo está usando IA para colar na escola
    • Grandes modelos de linguagem tornaram possível que alunos do ensino médio e da universidade gerem instantaneamente redações sobre qualquer tema
    • Professores enfrentam uma crise existencial ao tentar avaliar a habilidade real de escrita dos estudantes
    • Um estudante: "Na faculdade, neste ponto, tudo gira em torno de quão bem eu consigo usar o ChatGPT"
    • Um professor: "Um grande número de estudantes vai se formar e entrar no mercado de trabalho sendo essencialmente analfabeto"

  • Escrever é o próprio pensar

    • A razão de o declínio da escrita ser importante é que escrever não é uma segunda etapa que acontece depois do pensamento
    • O próprio ato de escrever é um ato de pensar
    • Isso vale não só para estudantes, mas também para profissionais
    • No editorial da Nature, "Writing is thinking": "terceirizar todo o processo de escrita para um LLM" priva cientistas do trabalho crucial de entender o que descobriram e por que isso importa
    • Quem entrega a escrita à IA acaba descobrindo uma tela cheia de palavras, mas uma mente esvaziada de pensamentos

  • Um declínio ainda mais grave da capacidade de leitura

    • Estado de analfabetismo funcional

      • O professor universitário anônimo Hilarius Bookbinder: "a maioria dos estudantes é funcionalmente analfabeta"
      • "Isto não é piada" e também não é exagero

    • Queda generalizada no Ocidente

      • Pela primeira vez em décadas, as pontuações de alfabetização e numeracia estão caindo em todo o Ocidente
      • O jornalista do Financial Times John Burn-Murdoch questiona se, exatamente no momento em que criamos máquinas para pensar por nós, não teríamos "passado do pico do poder cerebral"
      • O "Nation's Report Card" dos EUA (publicado pela NAEP): a pontuação média de leitura atingiu em 2024 o nível mais baixo em 32 anos
        • O que é ainda mais preocupante porque a série histórica só volta 32 anos

    • A normalização da leitura fragmentada

      • Os americanos estão sempre lendo palavras: e-mails, mensagens, feeds de redes sociais, legendas da Netflix
      • Mas essas palavras vivem em fragmentos de texto que quase não exigem a concentração sustentada necessária para compreender um texto maior
      • Na era digital, os americanos não conseguem ou não querem se deter em nada mais longo do que um tweet
      • A proporção de americanos que dizem ler livros por lazer caiu quase 40% desde os anos 2000

    • Alunos de elite desistindo da leitura

      • Reportagem de Rose Horowitch na The Atlantic: estudantes que entram nas universidades mais elitizadas dos EUA nunca leram sequer um livro inteiro para a escola
      • Daniel Shore, chefe do departamento de inglês de Georgetown: os alunos têm dificuldade de se concentrar até mesmo em sonetos
      • O pesquisador em educação Nat Malkus, do American Enterprise Institute, sugere que o ensino médio desmembrou os livros para preparar os estudantes para a seção de leitura de provas padronizadas
      • Ao otimizar a avaliação da capacidade de leitura, o sistema educacional americano parece ter matado a leitura de livros sem querer

Os dois pilares gêmeos do pensamento profundo

  • A perspectiva de Cal Newport

    • Cal Newport: professor de ciência da computação e autor best-seller de "Deep Work" e outros livros
    • Escrita e leitura são os dois pilares gêmeos do pensamento profundo
    • A economia moderna valoriza lógica simbólica e pensamento sistêmico, e leitura e escrita profundas são o melhor treinamento para isso

  • A IA é a mais nova força poderosa nessa guerra contra a capacidade de pensar

    • A ascensão da TV coincidiu com a queda na assinatura de jornais por pessoa e com o lento desaparecimento da leitura por lazer
    • Depois vieram internet, redes sociais, smartphones e streaming de TV
    • "O golpe combinado de leitura e escrita é o soro que você precisa tomar para adquirir o superpoder do pensamento simbólico profundo" - Newport
    • "É por isso que venho soando o alarme de que precisamos continuar tomando esse soro"

  • O insight de Walter Ong

    • Observação do estudioso Walter Ong em "Orality and Literacy"
    • A alfabetização não é uma habilidade passageira
    • É um meio de reestruturar o pensamento e o conhecimento humanos para criar espaço para ideias complexas

    • A diferença entre oralidade e escrita

      • Mesmo quem não sabe ler ou escrever consegue memorizar histórias
      • Mas algo como o "Principia" de Newton não pode ser transmitido por gerações sem a capacidade de registrar fórmulas de cálculo
      • Dialetos orais normalmente têm apenas alguns milhares de palavras
      • Já "o grafoleto conhecido como inglês padrão tem pelo menos 1,5 milhão de palavras" - Ong
      • Se leitura e escrita reconfiguraram a fiação do motor lógico do cérebro humano, o seu declínio está desconectando nossos superpoderes cognitivos justamente no momento em que máquinas ainda maiores surgem no horizonte

Aprender na era das máquinas pensantes

  • Funções centrais que têm valor

    • Não sei qual área específica cada estudante deveria escolher, mas tenho forte convicção sobre quais capacidades eles devem valorizar
    • Exatamente as capacidades que estão em declínio:
      • A paciência para ler textos longos e complexos
      • A capacidade de sustentar ideias conflitantes na cabeça e apreciar sua dissonância
      • A capacidade de travar uma luta intensa no nível da frase dentro da escrita
      • Valorizar essas coisas em uma era em que o entretenimento em vídeo substitui a leitura e ensaios feitos no ChatGPT substituem a escrita (agora isso é uma questão de escolha)

  • Uma ameaça clara e presente

    • À medida que a IA se torna abundante, há uma ameaça clara e presente de que o pensamento humano profundo se torne escasso
    • Mais do que se a tecnologia vai nos superar, a verdadeira questão é se nós mesmos vamos atrofiar nossas capacidades

Conclusão

  • O que ameaça o futuro humano não é o avanço técnico da IA em si, mas o fenômeno de perdermos a capacidade de pensar por conta própria, ler profundamente e escrever nós mesmos
  • O que mais precisamos na era da IA é de capacidade de pensamento profundo, concentração e paciência

Leituras relacionadas

3 comentários

 
argo9 2025-10-07

Parece que em breve chegará a era de implantar conhecimento no cérebro por meio de chips, como em ficção científica.
 
shakespeares 2025-10-08

Quando chegar a era em que vamos parar de pensar de verdade, aí vamos acabar fazendo implantes... e então acho que será o fim do mundo.
 
GN⁺ 2025-10-06
Opinião no Hacker News
  • Acho que a IA é algo que amplifica ainda mais as tendências já existentes de cada pessoa. Ela ajudou demais em tarefas repetitivas que consumiam tempo, em vez de pesquisa, aprendizado e trabalho intelectual. Por isso, consegui dedicar mais tempo a áreas que realmente exigem pensamento próprio e a coisas de que gosto mais, e pessoalmente sinto como se tivesse entrado num foguete de crescimento enorme. Mas também vi de perto algumas pessoas se tornando quase cópias operacionais da IA no trabalho. Elas reclamam do mesmo jeito que a IA vai roubar seus empregos, mas na verdade nem percebem que, ao repetir processos sem sentido, elas mesmas “entregaram seus empregos” para a IA. Ainda não entendo por que as pessoas não percebem que estão provocando isso por conta própria
    • Este texto trata principalmente da geração mais jovem, que está crescendo com essas ferramentas agora e ainda formando hábitos e inclinações. Eu também aprendi a programar antes dos LLMs, pesquisando no stackoverflow e quebrando a cabeça por conta própria. Por isso, aprendi o valor intrínseco do próprio processo de “criar algo do nada”. Mas a cultura ocidental tende a focar mais em recompensas externas, então me preocupo que a próxima geração perca essa oportunidade importante de desenvolver competências
    • Na verdade, o cerne do problema é que muita gente já não tinha grande capacidade de agregar valor a um processo desde antes de existir “IA”. Isso vem de muito antes. A sociedade está cheia de pessoas que só aumentam o trabalho inútil, estragam culturas de trabalho por teimosia ou, na prática, acabam sendo negativas. Talvez a IA torne essas pessoas mais visíveis, mas o problema em si não muda na raiz. Então onde colocamos essas pessoas? Existe uma forma de dar a todos um papel positivo sem destruir a humanidade delas? Ou deixamos ao acaso e esperamos que um dia encontrem algo em que realmente sejam boas? No fim, penso que UBI (renda básica universal) e exploração autônoma também não são más ideias
    • Dá a sensação de que finalmente realizou de verdade a promessa do Steve Jobs de que “o computador é uma bicicleta para a mente”. As pessoas se preocupam demais com a ideia de que a IA vai fazê-las perder a capacidade de pensar, mas, sinceramente, se elas não perderam isso por causa do scroll infinito nas redes sociais, não vão perder de uma hora para outra por causa da IA. Só que, na verdade, muita gente perdeu a capacidade de pensar justamente por causa das redes sociais, e esse é um problema maior. O que as pessoas precisam entender com clareza é que elas têm poder de escolha sobre que informações colocam dentro da própria cabeça. Antes de passar sem pensar por uma infinidade de conteúdos recomendados por algoritmos, precisam julgar primeiro se aquilo pode afetar suas crenças, hábitos de compra e estilo de vida
    • Na prática, muita gente é fundamentalmente desinteressada no próprio trabalho. O motivo principal é que consideram a recompensa injusta. Por isso, delegar seu trabalho à IA não representa um golpe na identidade delas
  • Ainda não cheguei a uma conclusão definitiva sobre o uso de IA. No começo, eu tinha uma posição do tipo “isso é ruim, estamos terceirizando nossa capacidade de pensar”, mas agora, pelo contrário, aprendi de forma extremamente rápida uma enorme variedade de tarefas. Será que eu teria memorizado tudo sem esse “novo dispositivo auxiliar”? Talvez não, mas, para começo de conversa, houve muitas coisas que eu só consegui iniciar graças a isso
    • Eu penso na IA como álcool. Tudo em excesso faz mal. Em pequenas quantidades, pode trazer conforto e, na história humana, também serviu por seus efeitos de desinfecção e conservação em contextos de risco sanitário antigo. Mas, para algumas pessoas, vira uma muleta pouco saudável para lidar com ansiedade e, em casos extremos, a dependência pode se agravar a ponto de a pessoa mal conseguir viver sem isso. É improvável que o vício em IA seja imediatamente letal, mas a ideia é que até uma ferramenta útil às vezes pode se tornar um apoio psicológico profundo
    • No fim, tudo depende de como você usa. Você só pega a resposta e segue em frente, ou depois tenta entender por que aquilo é a resposta certa? Eu estava fazendo um jogo roguelike em Raylib por conta própria e tentando estudar o máximo possível sozinho, do zero, sem material prévio nem IA. Toda vez que eu batia numa parede no cálculo de campo de visão, apareciam resultados pouco intuitivos e eu me perdi várias vezes. No fim, pedi ao copilot para gerar a função, e ele trouxe exatamente o Bresenham's Line Algorithm, e aí entendi o motivo também. Muita gente nem vai se perguntar por que a resposta da IA funcionou, mas a questão não é usar ou não usar IA: dependendo da profundidade do uso, dá perfeitamente para continuar usando o cérebro
    • Nem todo mundo é tão comum quanto você
    • Concordo. Depois que minha capacidade de tocar as coisas para frente melhorou, experimentei várias tecnologias novas
    • Esse é o ponto. A IA vai deixar algumas pessoas mais burras no geral, outras mais inteligentes e, para outras, os efeitos vão variar conforme a área. Foi uma pena o texto generalizar tanto nesse aspecto. Aliás, compartilho aqui o resultado da minha análise no Claude. Acho bom cada um julgar por si mesmo se ficou mais inteligente ou menos inteligente ao analisar textos com Claude. (Adendo: o fato de eu ter marcado errado o gênero do autor no prompt do Claude também pode ser um exemplo do efeito real do meu uso de IA)
  • Um exemplo de que isso já está acontecendo é a quantidade de gente que não consegue planejar uma rota nem se orientar sem software de navegação. Receber desvios em tempo real é ótimo, mas, quando você só segue instruções repetidamente, a dependência cresce demais
    • Eu sempre achei que não tinha senso de direção ruim, mas em algum momento percebi que minha capacidade de me orientar sem mapa tinha se deteriorado rapidamente. Na época, li o capítulo sobre navegação do livro Human Being: Reclaim 12 Vital Skills We’re Losing to Technology, fiquei tão abalado que fechei o livro e fui primeiro recuperar minha habilidade de navegação. Agora consigo imaginar qualquer lugar da cidade só olhando o mapa. Me formei na era de usar smartphone para achar caminho. Agora estou lendo o capítulo sobre comunicação porque tenho medo de que essa também entre em crise. Está cada vez mais claro que, ao depender demais da tecnologia, as pessoas realmente perdem várias capacidades básicas, e não dá para garantir que só porque queremos usar mais o pensamento isso de fato vá acontecer
    • Há até problemas sociais reais decorrentes disso, como mostra esta matéria da NPR. E, como lição de como essa atitude corrói valor e competência, vale ver também esta matéria do Marine Corps Times
    • Para mim, o GPS foi o que tornou possível ir a lugares que antes eu nem ousaria tentar alcançar
    • Eu não acho que a dependência de apps de navegação seja excessiva. Para a maioria das pessoas, planejar rotas é uma habilidade quase inútil. Se precisarem, podem aprender facilmente a qualquer momento
    • E daí? Qual é o problema em simplesmente depender disso? Quando eu era criança, sempre havia um atlas rodoviário no carro, e em um trabalho cheguei a planejar todos os dias, no papel, rotas de 4 horas de direção em sessões de 30 minutos. Eu perdia muito tempo procurando as estradas que ligavam uma página à outra, me confundia porque o que estava marcado no mapa nem sempre batia com o cruzamento real e ainda lembro dos carros de trás buzinando. Aquilo era desperdício de tempo. Não me tornou mais forte, mais inteligente nem uma pessoa melhor. Assim como hoje é tudo bem não usar mapa de papel nem fazer divisão longa
  • Tendo passado recentemente por processos de contratação de engenheiros seniores, estou vendo uma queda de capacidade muito evidente. 80% dos candidatos não conseguem fazer nem programação de nível júnior sem GenAI. Mesmo quando damos tarefas de código próximas do trabalho real, eles travam em operações básicas com estruturas de dados. Para ver se não era só um problema de código, também verificamos colaboração e geração de ideias, mas a dependência de LLM é igualmente séria. É algo que realmente se sente na prática. E, quanto ao argumento de “então deixa usar LLM”, o nosso ambiente cria novas tecnologias e APIs, então há muito trabalho real em que o LLM não consegue responder direito. No fim, fica a dúvida: por que pagar salários altos a um sênior nessas condições?
    • Na verdade, eu também uso bastante IA quando faço vibe coding em projetos paralelos. Se eu tivesse que fazer agora uma entrevista de código aleatória sem LLM, provavelmente também precisaria de algum tempo para me readaptar. Ainda assim, com alguns dias de prática, eu recuperaria isso rápido e tenho confiança de que logo faria melhor do que a maioria. Se você avaliar só o desempenho no teste e ignorar o potencial oculto, pode acabar deixando bons profissionais passarem
    • Você perguntou por que pagar um sênior, mas hoje em dia uma habilidade realmente diferenciadora de um sênior é saber se comunicar direito com a IA. Isso só se aprende entendendo bem o domínio do problema e passando por inúmeras tentativas e erros
    • A inflação de cargos também chegou às empresas. Décadas atrás, gente que nem teria qualificação para ser ‘senior’ hoje aparece com título de ‘principal’
    • O que precisa ser sabido e o que já basta pesquisar com LLM é uma diferença de opinião entre as pessoas
    • Dizer “sem GenAI não conseguem fazer trabalho de nível júnior” não significa necessariamente ignorância total; pode significar que o conhecimento detalhado ficou meio apagado e restou só uma lembrança difusa. Um júnior, por ter estudado recentemente, ainda se lembra perfeitamente até de $algoritmo, enquanto um sênior muitas vezes só se lembra vagamente de quais algoritmos existem, quando e por que usá-los, e de como procurar. Se uma área deixa de exigir atuação direta, a memória também se apaga, e em troca a pessoa concentrou energia em outras capacidades. Ou seja, o próprio trabalho se especializou, e ‘júnior’ e ‘sênior’ não são níveis superiores e inferiores do mesmo conjunto de habilidades. Isso fica claro quando você olha se, na empresa, júnior e sênior fazem exatamente a mesma coisa ou atuam em áreas diferentes. E a inflação de títulos também é real
  • Apesar de a revista se chamar <i>the Argument</i>, neste texto ela diz “o problema não é X, e sim Y”, mas sem refutar X em momento algum; passa apenas muito tempo defendendo Y
    • Em geral, é útil ler textos assim como “eu me preocupo mais com Y do que com X”. Nesse caso, o leitor nem precisa discutir X, só olhar se Y é de fato um problema real. Neste texto também fica dito explicitamente algo como: “não sei se a IA vai tirar empregos, mas a redução da capacidade de pensar já é claramente um problema agora. Não me preocupa o surgimento de máquinas pensantes, e sim o aumento de pessoas que cada vez pensam menos”. Portanto, o foco da autora é Y
    • Não é necessário refutar X porque, desde o início, trata-se de uma posição subjetiva
  • Parece que a autora está quase chegando à resposta, mas sem perceber o significado disso. Por exemplo, pense nela mesma fazendo barra na academia. Será que força nas costas é realmente algo indispensável para a sobrevivência? Se estivéssemos antes do século XX, quando todo mundo fazia trabalho físico, alguém gastaria tempo pesquisando métodos específicos de exercício? À medida que usamos menos o cérebro no dia a dia, talvez passemos justamente a buscar de forma mais ativa o fortalecimento dos “músculos do pensamento”. No fim, mesmo sem educação formal, o instinto para aprender, criar e se relacionar sempre vai existir em alguma parcela das pessoas
  • O próprio sistema educacional já é uma relíquia de outra era. Todos os pontos mencionados no texto partem da premissa de que a educação real seria “crianças escrevendo redações às pressas em salas de escola pública, enquanto professores exaustos e mal pagos corrigem tudo correndo”, como se isso fosse o método ótimo de pensamento crítico em 2025. No futuro, a IA pode apresentar percursos educacionais personalizados no ritmo de cada um, induzir erros e oferecer feedback em tempo real, tornando o aprendizado mais eficaz. Eu me preocupo mais é com a possibilidade de isso gerar ainda mais falhas em cooperação e sociabilidade. Por isso, acho que o papel do professor humano vai ficar ainda mais importante em motivação, construção de relações e coisas do tipo, mais do que como mero transmissor de conhecimento ou corretor
    • A pergunta é se você tem experiência como pai ou mãe. Se já viu de perto como é criar filhos, sabe que mais de nove entre dez crianças simplesmente não ligam para tarefas ou estudo sem pressão social de pais, professores e colegas. A essência da escola é justamente criar esse ambiente social coercitivo para dar às pessoas pelo menos uma chance, uma vez na vida, de colocar algum conhecimento na cabeça. A ideia da escola é que, nessa fase de crescimento em que a mente ainda é uma página em branco, a sociedade consiga ao menos induzir um mínimo de esforço
    • O lado curioso é: será mesmo que entregar a educação a uma IA que alucina e inventa informações é necessariamente melhor do que professores mal pagos e sobrecarregados? Talvez a resposta seja justamente melhorar as condições e o apoio aos professores
  • Não entendo por que todo mundo fala só de um lado. Se não pudermos passar as tarefas chatas para a IA, quem vai resolver as tarefas complexas? Será que esse avanço teria sido possível se ainda estivéssemos presos a fazer cálculos repetitivos à mão? Graças à IA, a humanidade pode se libertar de tabelas logarítmicas infinitas e cálculo manual
  • A IA é uma daquelas ‘camadas gigantes de abstração’ comuns na engenharia de software. Mas a verdade de sempre é que os melhores engenheiros não param na abstração; eles têm curiosidade e inteligência para investigar como a base funciona. Você não precisa construir a pilha TCP/IP, mas precisa entender o conceito dos protocolos e, em banco de dados, pelo menos a implementação interna e os trade-offs entre disponibilidade e consistência para ser um bom engenheiro. No fim, se você só seguir cegamente o que a IA manda, o risco de dar muito errado é grande
  • Escrevi recentemente sobre um tema parecido. Quanto melhor a IA fica em resolver tarefas longas sem dificuldade, mais curta vai ficando a atenção humana. Post relacionado. Espero que as pessoas consigam manter a própria capacidade de pensar mesmo com ajuda da IA. Na verdade, as tarefas escolares em si nunca foram tão práticas assim...