A IA está arruinando nossas capacidades? Resultados iniciais de pesquisa sugerem que sim

• À medida que a dependência de ferramentas de IA cresce no ambiente de trabalho, surgem evidências iniciais de que, em áreas em que a proficiência é crucial, como medicina e ciência da computação, as capacidades acumuladas pelas pessoas podem enfraquecer
• Em um estudo com endoscopistas na Polônia, quando a IA não era usada, a taxa de detecção de adenomas caiu de 28,4% para 22,4%
• Em um experimento randomizado e controlado da Anthropic, engenheiros que receberam ajuda de IA tiveram pontuação média de 50% no quiz, abaixo dos 67% do grupo sem IA
• Em uma pesquisa com profissionais de saúde dos EUA, 70% dos enfermeiros e 77% dos médicos demonstraram preocupação com a perda de competência causada pela dependência excessiva de IA
• Assim como o GPS no passado enfraqueceu a capacidade de orientação, a IA generativa é a primeira tecnologia a automatizar as próprias capacidades cognitivas, como pensar e interpretar, tornando a preservação da expertise humana um desafio importante

---

A ascensão do fenômeno de deskilling por IA

• À medida que profissionais passam a depender de ferramentas de IA no trabalho, cresce entre médicos, cientistas da computação e outros a preocupação de que habilidades adquiridas com muito esforço possam atrofiar
• Em uma pesquisa com profissionais de saúde dos EUA divulgada neste mês pela Wolters Kluwer, 70% dos enfermeiros e 77% dos médicos mostraram preocupação com a perda de competência decorrente da dependência excessiva de sistemas de IA
• Surgem evidências de que o "deskilling" causado pela IA já começou em vários campos, como medicina e ciência da computação, e pesquisadores discutem como preservar a expertise humana na era da IA
• Kevin Crowston, cientista da informação da Syracuse University: "Só o fato de reconhecer a existência desse fenômeno já pode estimular uma autorreflexão sobre quais habilidades manter e quais terceirizar para a IA"

Área médica — estudo com endoscopistas

• Desenho do estudo

  • O estudo foi conduzido com endoscopistas na Polônia, e todos os médicos participantes já haviam realizado pelo menos 2.000 colonoscopias ao longo da carreira
  • Foi fornecido a eles um sistema de IA que analisa imagens de colonoscopia em tempo real e sinaliza adenomas, lesões intestinais pré-cancerosas
  • A ferramenta funcionava de modo que, em determinados dias, podia ser usada, e em outros dias, não

• Resultados

  • Depois que os médicos passaram a usar IA, o desempenho caiu de forma significativa quando o sistema não estava disponível
  • Nos três meses anteriores à adoção da IA, os especialistas encontraram pelo menos um adenoma em 28,4% das colonoscopias
  • Nos três meses após a introdução da IA, a taxa de detecção de adenomas em colonoscopias feitas sem auxílio de IA caiu para 22,4%
  • Os resultados foram publicados em outubro passado na The Lancet Gastroenterology and Hepatology

• Interpretação dos especialistas

  • Robert Wachter, médico da University of California, San Francisco: "Mesmo profissionais altamente qualificados podem ver sua capacidade de executar tarefas necessárias no trabalho diminuir à medida que a dependência de IA aumenta"
  • Os autores do estudo: "A exposição contínua a esse tipo de ferramenta pode fazer com que clínicos, ao tomar decisões cognitivas sem IA, fiquem menos motivados, menos concentrados e menos responsáveis"
  • Yuichi Mori, médico, pesquisador da University of Oslo e coautor: "São necessários mais estudos para confirmar o fenômeno, mas usuários de IA devem estar cientes do risco de perder algumas habilidades"
    • "No momento, não há uma solução estabelecida para o deskilling, e isso deve se tornar um tema de pesquisa muito importante na próxima década"

Ciência da computação — experimento de programação da Anthropic

• Para investigar se há perda de habilidades em ciência da computação, pesquisadores da empresa de IA Anthropic, de San Francisco, projetaram um experimento randomizado e controlado com 52 engenheiros de software
  • Todos os 52 participantes tinham acesso a busca na web e a orientações sobre como realizar tarefas básicas de programação
  • Metade também foi incentivada a usar um assistente de IA adicionalmente
• Em um quiz sobre o que aprenderam após a tarefa, surgiu uma diferença entre a média de 50% do grupo que usou IA e 67% do grupo que não usou
  • Os participantes com ajuda de IA tiveram desempenho especialmente fraco em questões de diagnóstico de erros de código, indicando que não aprenderam os conceitos do código que acabaram de escrever
  • O estudo foi publicado no servidor de preprints arXiv antes da revisão por pares
• Crowston: "Agora existe uma desconexão estranha entre desempenho e aprendizado"
  • "As pessoas conseguem ter um desempenho relativamente alto basicamente porque estão pegando emprestadas habilidades da IA, e não conseguem desenvolver essas habilidades por conta própria"
  • Esse resultado é motivo de preocupação especialmente para estudantes e jovens profissionais da área

Terceirização da cognição — comparação com tecnologias anteriores

• Tapani Rinta-Kahila, pesquisador de sistemas de informação da University of Queensland: "No passado também houve tecnologias que tornaram certas habilidades menos úteis, como o GPS enfraquecendo a capacidade de encontrar caminhos"
  • Mas a IA generativa é "a primeira tecnologia a automatizar capacidades cognitivas ligadas ao pensamento e à interpretação, há muito consideradas habilidades tipicamente humanas"

• Caso dos contadores

  • Um estudo publicado em 2018 investigou um grupo de contadores que continuou usando por mais de 10 anos sistemas automatizados de contabilidade que não eram IA
  • Quando a ferramenta desapareceu, confirmou-se que os contadores haviam esquecido como realizar várias tarefas rotineiras
  • "A próxima geração de programadores pode acabar sem compreender adequadamente os fundamentos da programação se não tiver experiência prática suficiente"
  • "O mesmo se aplica a outras profissões intensivas em conhecimento, como contabilidade e direito"

• Medidas para evitar a erosão de habilidades

  • É preciso ter consciência de quanto trabalho está sendo delegado à IA generativa
  • É necessário entender com precisão como os modelos de IA generativa funcionam e quais são seus limites, e não confiar em saídas de IA sem verificação
  • "É preciso gerenciar a dinâmica competitiva entre a dependência da IA generativa e a manutenção de uma vigilância consciente"

[GN⁺]

Comentários do Hacker News

• Ficamos confortáveis demais. Sentados em cadeiras Herman Miller em escritórios com ar-condicionado, aprendendo sobre computadores e recebendo salários altos, agora descobrimos como sintetizar inteligência e a principal coisa em que pensamos foi estragar o que talvez fosse a carreira mais divertida que alguém poderia sonhar
  Claro, agora somos mais produtivos, mas não sei quanto disso vem do fato de estarmos usando IA apoiada na inteligência acumulada antes, com trabalho manual
  Quem pode garantir que, daqui a 36 meses, nosso conhecimento de sistemas não terá se deteriorado e que não seremos desenvolvedores piores no geral
  Não estou dizendo para não usar IA. Eu a uso o tempo todo em tarefas paralelas úteis, como configurar GitHub Workflows enquanto trabalho direto em uma funcionalidade, ou delegar tarefas na internet a um agente em um VPS. Um pouco de inteligência sintética é bom
  Mas substituir, em vez de reforçar, a própria inteligência não é bom. Assim como tomar esteroides pode deixar alguém musculoso enquanto destrói o corpo, acho que o benefício está justamente no próprio trabalho. O atalho muitas vezes é o caminho mais perigoso

  • Mais do que perguntar se “somos mais produtivos”, eu queria questionar como a era da IA está nos empurrando cada vez mais para produzir mais, e mais rápido. Para quê, exatamente?
    Virei engenheiro de software porque era divertido escrever código, pensar e resolver problemas complexos, e sentir a recompensa quando algo feito à mão funcionava pela primeira vez
    Gerenciar um exército de agentes em vez de código é realmente divertido? Ou a graça está só na sensação de velocidade de conseguir produzir algo numa velocidade impossível para uma pessoa sozinha? Mover-se rápido, por si só, nunca foi o centro da diversão para mim
    Entendo usar IA para reduzir trabalho repetitivo ou boilerplate, mas quando vejo pessoas indo com tudo em desenvolvimento baseado em agentes, realmente fico em dúvida
  • Para muitos desenvolvedores, tornar-se um desenvolvedor pior daqui a 36 meses pode ser, na verdade, o melhor cenário. O mercado de trabalho já está mudando para absorver os ganhos de produtividade, e todos acabarão sendo forçados a produzir mais para manter o emprego
    A demanda não consegue acompanhar imediatamente o aumento de produtividade, então não é como se a empresa pudesse simplesmente vender mais, e no fim vêm as demissões. Quando mais pessoas competem por menos vagas, os salários dos que ficam também caem. É uma questão básica de oferta e demanda
    Fico curioso para saber quantas das pessoas que, em 2024, diziam “meu trabalho é complexo ou especializado demais para ser afetado” ainda diriam a mesma coisa hoje
    As empresas terão de aceitar um preço por token cada vez mais caro para reduzir custos de mão de obra, ou concluir que essa troca não vale a pena e voltar a apostar na inteligência humana. Nos próximos meses, a viabilidade econômica do setor provavelmente decidirá por nós
  • Acho que você está usando IA do jeito errado, ou trabalha num lugar ruim. Para mim, programar com IA é muito divertido
    Os LLMs e suas ferramentas parecem um novo conjunto de restrições a considerar ao projetar sistemas, e, se você souber lidar com isso, pode construir coisas maiores e melhores do que antes. Parece aprender um ramo completamente novo da árvore de habilidades da programação
    Claro, estou dizendo isso depois de o Claude ter destruído completamente o RBAC do aplicativo e de eu ter passado os últimos dois dias refazendo tudo
  • Eu preferiria que não dissessem “nós”. Muita gente não quis esses modelos nem essas empresas, e tampouco contribuiu para isso. Se contribuiu em algo, foi tendo seu código, seus dados e sua propriedade intelectual roubados
    Muita gente não aderiu voluntariamente ao uso de IA; isso foi, na prática, imposto pelos empregadores. E não é como se todo mundo tivesse ficado mais produtivo por causa da IA; muita gente passa o tempo que economizou revisando o código que a IA produziu
  • No trabalho, fui obrigado a usar LLMs e ouvi que “não tente entender, só faça funcionar”. Como se o absurdo dessa frase não fosse evidente
    Desde então, venho procurando uma forma de sair deste emprego, talvez até desta carreira
    No fim, as pessoas que se importam serão filtradas ou irão embora por conta própria, e a área inteira ficará cheia de maximalistas de IA ao estilo Dunning-Kruger. A ideia de que “a IA substitui engenheiros” está certa, mas por razões e de um jeito totalmente diferentes do que imaginam as pessoas que dizem isso

• Fico curioso para saber se o mesmo efeito acontece com pessoas muito ricas ou executivos de altíssimo escalão. Essas pessoas já conseguem “terceirizar” o pensamento há muito tempo, delegando trabalho, pedindo pesquisa e resumo, distribuindo tarefas etc.
  Passar esse tipo de coisa para outras pessoas também deteriora a capacidade do mesmo jeito? Ou a IA é fundamentalmente diferente? Se for diferente, por quê? Porque não existe pressão moral e social para não delegar tudo?

  • Sim. No desenvolvimento prático do dia a dia, suas habilidades começam a se degradar no momento em que você passa para um cargo de gestão. Mesmo que elas não se deteriorem magicamente, você deixa de praticar e acompanhar os novos avanços.
    Se você exercer bem o papel de gerente, esse é um dos caminhos de carreira mais assustadores que existem. Depois de alguns anos, na prática não há mais como voltar a ser um desenvolvedor operacional mal remunerado. O trabalho passa a ser ajudar os outros a fazerem, não fazer você mesmo.
    Claro, existe uma zona intermediária: tentar manter alguma afiação técnica com P&D ou projetos paralelos, mas isso é diferente do trabalho prático diário no chão da produção.
    O nível técnico de partida varia de pessoa para pessoa, mas o efeito acumulado ao longo do tempo costuma ser parecido.
    Esse é exatamente o maior alerta que eu faço quando um engenheiro experiente diz que quer migrar para a trilha de gestão. Não é uma decisão para tomar de leve.
  • Sim. Isso também acontece com professores e reitores universitários.
    Por isso acho que a ida de Noam Shazeer para a OpenAI também precisa ser vista nesse contexto. Continua sendo uma ótima contratação, mas não há um motivo especial para acreditar que ele ainda traga alguma magia secreta que outras pessoas não tenham hoje em formas mais atualizadas.
  • A classe proprietária, na prática, não trabalha. O planejamento de alto nível que ela delega é o tipo de coisa que agentes de IA conseguem executar com mais facilidade do que tarefas como engenharia de software. Isso porque não precisa ser tão preciso nem tão executável.
    Ainda assim, como o escopo é muito amplo e o risco do papel é alto, talvez seja preciso uma linguagem visionária no nível de Fable 5 ou Fable 6 para tornar isso suficientemente “seguro” sem humanos.
    O que vai explodir em 2027 serão empresas automatizadas por IA, e CEOs e proprietários humanos deixarão de conseguir competir com essas empresas operadas por IA.
  • Trabalho intelectual, e de forma mais ampla qualquer área com uma árvore de habilidades pela qual se pode subir ou descer, se deteriora com o tempo quando não há prática. É como correr: se você para por um tempo, não volta batendo seu recorde pessoal imediatamente.
    Ficar um tempo afastado e depois recuperar o ritmo é mais fácil do que nunca ter desenvolvido a habilidade ou não ter talento natural, mas sem exercício há degradação, sem dúvida. Líderes que subiram para cargos puramente de gestão e estratégia sem manter as habilidades práticas acabaram ficando bem mais lentos para compreender as coisas.
    É bom que esse estudo tenha sido feito. Vejo a correlação negativa entre IA e bem-estar humano como um dos grandes desafios do nosso tempo. Mas essa conclusão em si parece bastante óbvia.
  • Já vi muitos ex-programadores que viraram gerentes e, depois de alguns anos, mal conseguem fazer um fizzbuzz. Então acho bem parecido.
    Boa parte do cérebro funciona na lógica de “use ou perca”, e esse tipo de delegação é justamente não usar.
    Ainda assim, LLMs podem muito bem ser bem piores do que delegar a humanos. Em parte porque o ciclo de iteração é rápido demais, então você obtém uma velocidade que não conseguiria comprar de um ser humano, mesmo sem ser absurdamente rico.

• Faz mais de um ano que não escrevo uma função de código do começo ao fim com as próprias mãos. Em vez disso, passo muito mais tempo pensando em arquitetura e características do sistema.
  Então sinto que perdi um pouco das habilidades de nível bem baixo. Mas também pode ser que isso tenha me permitido dedicar mais tempo a habilidades de nível mais alto. Talvez seja como médicos que ficaram piores em ler imagens, mas ganharam mais recursos cognitivos para pensar no contexto do paciente.
  Não tenho certeza.
  Mesmo assim, agora não consigo me obrigar fisicamente a escrever código sem IA. Parece lento demais e quase doloroso.

  • Fico me perguntando se alguém que está entrando agora conseguiria adquirir esse modo de pensar útil e produtivo sem passar pelo treino mental de brigar manualmente com estruturas de dados e algoritmos de baixo nível em aplicações reais.
    Quando eu estudava design, boa parte do trabalho era com mídias físicas como grafite, papel recortado, tinta e carvão, e ao mesmo tempo praticávamos bastante kerning e uso de ferramentas digitais. Mesmo no digital, era preciso construir cada traço e escolher a ferramenta certa, mas dava para perceber claramente uma falta de noção do processo nas pessoas que vinham de uma formação puramente digital.
    É parecido com alguém que só desenhou com referência fotográfica e tenta desenhar a partir de objetos reais. Quando você desenha algo que já é 2D, uma parte inteira do processo cognitivo deixa de ser usada. Dá para aprender, mas se ninguém te força, a tendência é continuar tirando fotos e desenhando a partir delas.
    Geração de imagem é tão diferente, mesmo com inpainting muito detalhado, que é difícil até comparar. Eu hesitaria em dizer que alguém com muita experiência em geração avançada de imagem começa a aprender desenho muito à frente de um iniciante completo. Isso já não vale para um artista que usa referência fotográfica, e vale menos ainda para um artista puramente digital que já faz desenho de observação em tablet.
    É parecido com os millennials, que sempre tiveram acesso à tecnologia, mas também passaram pela era da internet discada, e por isso em geral entendem mais de tecnologia do que o típico “iPad kid” que nem consegue navegar por uma estrutura de diretórios.
  • A questão é quais habilidades de nível superior ainda vão sobrar para você focar.
    Não tenho certeza de que a IA seja essencialmente pior em coisas como gestão de projetos ou arquitetura.
  • Mesmo que os sacerdotes da IA estejam certos ao dizer que usar IA libera capacidade cognitiva para pensar em coisas mais elevadas, como o chefe vai fazer você usar essa sobra? Ele vai deixar o usuário desenvolver habilidades cognitivas de nível mais alto? Duvido.
    Suponha que os médicos da matéria tenham tido desempenho pior depois da IA. Se, graças à IA, agora for possível fazer 100 exames no tempo em que antes se faziam 10, como o empregador vai usar esse tempo de trabalho sobrando? Obviamente vai mandar fazer ainda mais exames e demitir parte dos médicos que se tornaram dispensáveis.
    Os médicos que sobrarem vão trabalhar o mesmo tanto ou mais, porém desqualificados, e a sociedade vai receber um atendimento de qualidade inferior. Ainda assim, o empregador economiza em mão de obra e os acionistas ficam felizes.
  • Nós não aprendemos a usar cartões perfurados da IBM. Escrever funções à mão em linguagens modernas também está rapidamente se tornando uma tarefa anacrônica.
  • Aos olhos de muitos CEOs, você está se tornando lentamente inútil.

• Isso é novo, e principalmente a escala é nova. Não se trata de algumas “habilidades” individuais, mas de quase todas elas. O fundamento mais básico da capacidade de pensar de forma profunda, ampla e persistente está sendo desafiado. Algo assim nunca aconteceu dessa maneira antes
  Ver agentes funcionando às vezes é impressionante e até de tirar o fôlego. Por outro lado, é justamente por causa desse poder que ficamos vulneráveis, na mesma escala, à tentação e à desativação. O potencial de efeitos psicológicos de longo prazo é quase comparável ao de drogas pesadas

  • Quando se fala em desafiar a capacidade de pensar de forma profunda, ampla e persistente, a primeira coisa que me vem à cabeça são as redes sociais e os algoritmos de conteúdo. Foram a primeira onda que criou o estado terrível em que estávamos antes mesmo de entrar na era da IA
    Hoje em dia, é fácil demais cair numa câmara de eco e muito difícil sair de um silo
    Pode ser uma faca de dois gumes. A IA, que a maioria das pessoas trata como um oráculo onisciente, talvez possa oferecer o único contraponto que encontramos para posições absorvidas passivamente ao rolar redes sociais, YouTube ou TikTok
    Por exemplo, se você perguntar ao Claude, ChatGPT ou Grok sobre o “laser espacial” dos incêndios no Havaí em 2018 que pessoas como Marjorie Taylor Greene divulgaram nas redes sociais, eles rapidamente rebatem isso como bobagem
    No fim, todo mundo pode acabar tendo sua própria IA que só diz o que quer ouvir. Mas, até agora, já vi gente desistindo de discutir no Twitter porque o Grok rejeitou a alegação. Então parece haver um pouco de esperança
  • Antes de dizer “isso nunca aconteceu antes”, vale a pena ler o que as pessoas diziam sobre a invenção do rádio e da televisão
    O fato de ver agentes funcionando ser algo impressionante e de tirar o fôlego também vale para a mágica. A possibilidade incômoda de que tudo isso possa ser uma ilusão que não entendemos direito aparentemente não pesa muito para as pessoas
    O fato de os efeitos psicológicos de longo prazo parecerem drogas pesadas talvez tenha mais a ver com como os donos desse produto escolheram comercializá-lo e distribuí-lo. Se tirarmos só um pouco da cobertura, a euforia pode virar medo. Um momento ao estilo Upton Sinclair está se aproximando
  • A mente humana precisa de desafio tanto quanto o corpo. Para crescer — ou mesmo para manter um alto nível cognitivo — esse é o único caminho
    Enfermeiros, médicos e familiares sabem bem como a trajetória de vida de uma pessoa despenca quando ela é subitamente presa a uma cama e reduzida ao mínimo de estímulo e desafios possíveis
    LLMs removem ou minimizam o desafio. Fora a redução de custos para empregadores, é difícil imaginar que valor adicional isso traz para engenheiros. Claro, vão aparecer pessoas dizendo que fazem 10x mais do que antes, e algumas talvez realmente façam, mas há motivos para duvidar disso também. Para a maioria restante, isso não é bom e, a menos que o preço as impeça de usar na maior parte dos mercados, isso também não vai melhorar

• Aos 40 anos, estou aprendendo coisas novas numa velocidade que eu jamais imaginaria. Novos esportes, novos negócios, novos interesses acadêmicos
  Tecnologia é alavanca, e IA é a maior alavanca que temos. Ela tanto permite a preguiça quanto possibilita uma produtividade enorme. O caminho adiante é uma escolha sua

  • Não sei se isso se aplica a você, mas vi alguns amigos passarem a acreditar que estavam explorando a fronteira da ciência, e no fim a conversa sempre virava um redemoinho de delírios estranhos de tom quântico e metafísico
    LLMs são bajuladores, e em conversas longas essa bajulação cria um ciclo de retroalimentação positiva. Se uma interpretação errada ou uma analogia ruim entra na janela de contexto com validação, o chatbot continua seguindo por esse caminho, porque ele é a continuação mais plausível do texto anterior
    Quando você percebe, já está descobrindo o tecido oculto do universo, e isso sempre vira algo como uma variedade de grade tensorial fractal espaço-temporal de Minkowski com nanotubos de DNA sub-harmônicos
    Então, se você não tem uma forma sólida de avaliar o que está aprendendo e confirmar se está realmente aprendendo, é melhor ter cuidado
  • Você não está aprendendo. Aprender envolve fazer diretamente
    Isso é conhecido há muito tempo. Se um aluno apenas lê um livro de matemática e não resolve problemas repetidamente, ele não passa na prova
    Mesmo no melhor caso, você só está lendo alguma coisa. Usuários de agentes de programação nem isso fazem
  • Isso não é aprender. É mais como ouvir explicações e receber um martelo para usá-las com um nível de habilidade abaixo da média
    Aprender exige um investimento enorme de tempo. Usar LLM não reduz esse tempo
  • Como exatamente a IA ajuda nos esportes? Ela fez você se tornar um atleta melhor? Por exemplo, do ponto de vista de um técnico, você aprendeu mais sobre a estratégia de cada esporte? Pode falar em mais detalhes?
  • Na verdade, concordo. Dá claramente para sentir que é possível aprender e explorar conceitos com LLMs. Mas, para começar, eu já era alguém muito autodidata e altamente motivado
    Tudo o que sei de técnico eu aprendi por esforço próprio. Então eu gostaria que essas ferramentas fossem divulgadas não como um modelo que faz você fazer mais trabalho, mas como um modelo que ajuda você a fazer um trabalho melhor
    No momento, elas estão sendo usadas mais como desculpa para demissões em massa do que para elevar a capacidade das pessoas. Naturalmente, isso também atraiu em peso gente que as usa para inflar as próprias habilidades reais

• O uso de ferramentas normalmente segue esse tipo de curva. Se você quer preservar uma habilidade, precisa realmente preservá-la
  Isso em si não é intrinsecamente ruim. Ferramentas tornam possível fazer muito mais do que seria possível sem elas, e há espaço para debate sobre quais habilidades continuam sendo essencialmente importantes quando a ferramenta pode substituí-las

  • A dificuldade aqui é que o conjunto de habilidades que estamos tentando deixar atrofiar é, na prática, de alcance infinito
    Não é uma ferramenta especializada com um domínio de problema bem definido, como uma calculadora. Na prática, muita gente usa IA em áreas profissionais como programação ou design visual, mas em princípio não há motivo para que até o próprio nível de abstração em que trabalhamos hoje não possa ser entregue à IA
  • O grande problema neste caso é que, para usar bem essa ferramenta, as habilidades básicas também precisam ser desenvolvidas e preservadas. É muito diferente de uma furadeira elétrica
  • A diferença entre estar tudo bem ou não depende de quão confiável é a ferramenta. Se for uma calculadora ou um compilador, tudo bem. O exemplo do artigo, de classificação de imagens com aprendizado de máquina, também parece aceitável, embora eu não tenha certeza
    A saída de LLMs não é confiável, então ainda exige julgamento. E, para julgar código, você precisa ter trabalhado com isso diretamente até certo ponto. Portanto, uma ferramenta não confiável não ajuda muito, a menos que você aceite essa incerteza
  • Exato. Mas, se você não possui a ferramenta, e ela está nas mãos de um grupo centralizado, até mesmo próximo da política e do Estado, a situação fica bem complicada no momento em que vira um “o computador diz que não”

• Quando penso em engenheiros Staff+, isso não me surpreende. O trabalho deles é bem parecido com dar instruções para uma IA. A maioria sobe a escada com esforço, excelente habilidade de engenharia, soft skills e um pouco de sorte. Mas, conforme a empresa cresce, o tempo gasto com codificação, depuração e design profundo vai diminuindo cada vez mais
  Em vez disso, eles passam a agir como gerentes de produto muito técnicos. Ajudam VPs a planejar e escrever requisitos de produto de alto nível, salpicando alguns termos técnicos aqui e ali. Desenham caixas no quadro branco, fazem slides bonitos e escrevem documentos polished que deixem a liderança satisfeita. Estão em reuniões ou indo para a próxima reunião e, quando têm uma ideia técnica, mandam a equipe validá-la
  Naturalmente, ainda sentem que continuam sendo profundamente técnicos, mas, quando chega o dia de resolver uma falha operacional, passar numa entrevista técnica ou escrever bastante código, percebem que as habilidades enferrujaram
  Não estou tentando criticar, e sim destacar um desafio real de carreira. Como engenheiro, você quer continuar afiado tecnicamente, mas, para subir na hierarquia organizacional, precisa assumir mais trabalho organizacional. A única solução que me vem à cabeça é se aproximar mais de um pesquisador ou professor. Bons professores, com o tempo, passam menos horas escrevendo artigos ou derivando fórmulas, mas, graças à profundidade dos seus insights, orientam alunos de doutorado e produzem excelentes resultados. Só que esse caminho não é tão fácil quanto parece

• O maior efeito negativo que vejo é que as pessoas avançam rápido demais para conseguir avaliar o que estão jogando ali. Quando você vai rápido demais, não tem tempo para desenvolver gosto nem para entender as nuances de várias abordagens para o mesmo problema
  Eu também uso bastante LLM, mas acho que, em média, passo muito mais tempo do que meus colegas encarando o código gerado. O que sai primeiro “funciona”, mas, depois de deixar a ideia assentar na cabeça, normalmente preciso iterar a ideia original mais 2 ou 3 vezes antes de sentir que realmente dá para fazer merge
  Então, somando tudo, não sinto que a produtividade tenha aumentado muito nas preocupações de nível de design que realmente importam

• Primeiro, fico me perguntando sobre o valor do estudo de endoscopia. Para comparar o número de adenomas detectados antes e depois da potencial perda de habilidade causada pela IA, é preciso assumir que a taxa de ocorrência de adenomas permaneça constante, e essa suposição não parece necessariamente segura
  Não sei se é um problema do estudo em si ou do resumo, mas teria sido um desenho de pesquisa muito melhor medir quão bem os participantes se saíram em relação à sua análise de referência, e isso também daria mais confiança de que houve uma mudança real de habilidade
  Também me pergunto se o tempo de leitura diminuiu ou se, como a IA fazia a leitura rapidamente, as pessoas passaram a sentir mais pressão ao analisar os exames do jeito antigo. Isso é um possível fator de confusão
  Em segundo lugar, não surpreende que a IA produza uma perda de habilidade mensurável. Mas provavelmente já teria sido possível encontrar perda de habilidade por causa de corretores ortográficos e calculadoras no passado também. Mesmo assim, hoje ninguém diz que devemos parar de usar processadores de texto e voltar a contar nos dedos das mãos e dos pés ou fazer divisão longa
  Sempre há um trade-off entre quais habilidades e conhecimentos são realmente importantes para um especialista e o que pode ser terceirizado para a tecnologia. Neste momento, estamos numa transição porque a tecnologia não só é nova como também está mudando rápido demais. Daqui a alguns anos, quando estivermos mais acima na curva de adoção e o ritmo de mudança se estabilizar em algumas áreas, vamos nos acomodar a formas de uso de IA que ainda exigem uma combinação de conhecimento e habilidade em áreas como programação e medicina. E acho que vamos nos acostumar com o fato de que as pessoas não precisarão mais saber ou fazer diretamente coisas que hoje são vistas como centrais para a profissão

• Será que vamos acabar numa situação em que a IA desaparece e passamos a lamentar as habilidades perdidas? Mesmo no pior cenário, acho que no máximo usaríamos modelos de pesos abertos em vez do estado da arte, então não me parece um grande problema
  Tenho certeza de que, depois da invenção da calculadora, as pessoas ficaram piores em aritmética

  • Acho que a verdadeira ameaça não está no nível individual, e sim no nível social
    Com o tempo, ao acumular habilidade, surgem insights, e esses insights levam à inovação
    A IA faz muitas coisas interessantes, mas ainda não inova
    A verdadeira ameaça não é todos nós perdermos as habilidades e também perdermos acesso à IA. Isso é possível, mas a perda de acesso parece improvável. O risco maior é a IA ficar mais ou menos no nível atual enquanto nós passamos a depender dela, embotamos nossas habilidades e delegamos pensamento demais para uma máquina não inovadora, fazendo a inovação estagnar
    Não estou dizendo que isso vai necessariamente acontecer, mas parece um resultado plausível o bastante
  • A história inteira da computação anterior a 2023 desapareceu? Está realmente tudo tão arruinado assim?
  • Na frase “depois da invenção da calculadora, as pessoas ficaram piores em aritmética”, dá para trocar “aritmética” por uma variável X no caso dos LLMs
    “Depois da invenção dos LLMs, as pessoas ficaram piores em X”
    O problema não é só a degradação da habilidade X em si
    O problema é que, com LLMs, X é praticamente todo conhecimento e toda habilidade de comunicação
    A sociedade realmente consegue aguentar uma situação em que praticamente todo conhecimento e toda habilidade de comunicação se degradam?
  • No pior caso, sofremos um encolhimento cognitivo. Ficamos mais burros e mais preguiçosos