- Ultimamente, sempre que tento escrever ou criar algo, passo a perceber que isso é sem sentido na era da IA
- Antes mesmo de eu fazer, a IA já está produzindo algo melhor, e isso me coloca em um estado de perda de motivação para o ato de criar
- As ideias que me vêm à mente parecem a sombra de um rascunho melhor que já existiria dentro de um LLM
- No passado, quando surgia uma ideia, eu a lapidava lentamente em texto, num processo de organizar os pensamentos com clareza
- Ao escrever, eu mesmo descobria falhas no meu raciocínio e as corrigia, e isso por si só era uma experiência de fortalecimento do pensamento
- Escrever não era apenas um meio de expressão, mas uma ferramenta para formar meus argumentos e construir opiniões
- Como os pensamentos se acumulam como juros compostos, quanto mais eu pensava, melhores pensamentos se tornavam possíveis
- Agora, quando surge uma ideia, basta digitar algumas palavras em um prompt para que o LLM entregue um pensamento já concluído
- Por causa disso, sinto que meu sistema interno de pensamento está encolhendo aos poucos
- À medida que a intuição, a precisão e a curiosidade interior vão desaparecendo, fica cada vez mais difícil encontrar motivação para compartilhar meus próprios pensamentos
- No começo, eu via a IA como uma ferramenta de produtividade que ampliaria minha capacidade de pensar, uma espécie de bicicleta intelectual
- Mas, na prática, o modo de uso acabou sendo mais próximo de uma experiência passiva, como ficar rolando a Netflix ou consumindo TV
- Ou seja, isso não ajuda de fato a desenvolver a capacidade de pensar
- Ler os resultados produzidos pela IA é um processo em que a jornada da reflexão intelectual é omitida
- Explorar diretamente uma pergunta, passar por tentativa e erro e por debates internos é o núcleo do crescimento intelectual
- O conhecimento que a IA oferece é rápido e conveniente, mas nesse processo falta o treino da reflexão interna
- Ironicamente, hoje eu sei mais coisas do que antes, mas com frequência sinto que estou mais lento e mais burro
- A IA fornece respostas, mas essas respostas são um conhecimento que não é meu e que não se converte em compreensão
- O que se obtém por meio de um LLM é conhecimento, mas isso é essencialmente diferente da compreensão conquistada por mim mesmo
- Pensar com IA parece uma capacidade sobre-humana, mas na prática está mais para um efeito calmante que paralisa o instinto de exploração interior
- Ainda assim, o próprio ato de escrever assim, diretamente, e tentar transmitir pensamentos em estado bruto, como são, continua tendo significado
8 comentários
Concordo. Quanto mais uso LLMs, mais parece que estou perdendo a capacidade de pensar com profundidade. Por isso, ultimamente, quando pergunto sobre algo que não sei, tento ser o mais detalhado possível e usar de um jeito em que separo apenas os elementos que desconheço para perguntar e complementar.
Mesmo antes do boom da IA, já existiam inúmeras coisas, fossem imagens ou textos, e criar algo realmente novo já era extremamente difícil.
Ultimamente há muitos textos do tipo dizendo que passaram por mudanças por causa da IA, mas na maioria dos casos eram coisas que já existiam e que bastava procurar para encontrar.
A IA apenas empacota isso em um formato conversacional.
Desde que a IA apareceu pela primeira vez, penso que isso é como a barreira ilusória de A Ave que Bebe Lágrimas: ela traz à tona pensamentos que eu já conhecia, mas não conseguia lembrar e que estavam soterrados. Se o fato de algo já existir antes mesmo de eu me lembrar disso o torna sem sentido, então no que ler um livro é diferente? E escrever um texto sem ler livros? A diferença é só o esforço e o tempo que invisto; a maior parte dos pensamentos já não existe de antemão? Entre inúmeras ideias, é raro que algo seja realmente "novo" desde o primeiro momento em que surge, e no fim parece que, do mesmo jeito, precisamos criar diferenciação por meio da repetição. Também me parece que quanto mais uma pessoa se dedicou à criação puramente autoral, ou quanto mais isso foi sua profissão, maior tende a ser o ceticismo e a rejeição em relação à criação com IA. Mas, no fim, como o autor disse, se a criação com IA chegar ao ponto de parecer "sobre-humana", a tal ponto que a criatividade da IA supere a humana, rejeitá-la não seria uma resistência tola, ainda que tola, contra um fluxo inevitável? Se a opinião for que é responsabilidade humana pensar criticamente sobre os resultados produzidos pela IA e, por meio de reflexão intelectual, transformar conhecimento em compreensão, então eu concordo. Mas se a opinião for que usar IA paralisa o pensamento interno e por isso devemos tomar cuidado, isso me soa mais como "é bom demais, então vou guardar só para mim". Ou então a pessoa já era alguém com pouca capacidade de pensamento crítico e metacognição desde o início.
Em um contexto um pouco parecido, estou compartilhando meu jardim digital. Agora é fácil encontrar fragmentos de conhecimento, mas eles acabam não se incorporando a mim. Encontro muitos textos incríveis no GeekNews. Quem faz a curadoria aqui?
https://notes.junghanacs.com/
Hoje em dia, estou exatamente assim…
Como o desenvolvimento é feito para ajudar o negócio... Já que o LLM assumiu os detalhes da implementação, não basta eu me preocupar com qual papel meu aplicativo desempenha para o negócio da empresa como um todo e que significado nosso negócio tem dentro do mercado em geral? E também tenho dúvidas se o LLM consegue realmente assumir todos os detalhes da implementação.
Parece ser um texto do tipo em que a pessoa sente que sua capacidade de somar e subtrair foi se deteriorando depois que passou a usar funções do Excel... Fico curioso se não havia esse tipo de conversa quando o Excel começou a chegar aos escritórios, lá pelos anos 90 e 2000.
Comentários do Hacker News
Tenho a sensação de que, nos próximos meses e anos, a sociedade vai se dividir bastante
O próprio processo de produzir expressão é aquela articulação conceitual e racional de que Brandom fala
Quem acha que os conceitos já existem e que basta codificá-los e decodificá-los como combinações de tokens, ou nem sequer reconhece o próprio processo de inferência e conceitualização, vira alvo de automação
Não estou falando de automação de empregos, mas de abrir mão da espontaneidade e passar a viver cada vez mais como um robô
Robô, no sentido de "uma pessoa que trabalha ou age de forma totalmente mecânica"
Gente demais é prisioneira da ideologia do produtivismo
Criar não tem como essência produzir conteúdo; o propósito do ato criativo é comunicação e transformação mútua
A geração de artefatos digitais também pode servir a esse propósito, mas muita gente confunde produção pura e simples com o próprio objetivo, e isso é um beco sem saída sombrio e triste
Tudo o que fazemos parte daquilo que vivemos ou testemunhamos
Se tentar imaginar algo totalmente novo, sem qualquer base na realidade, isso é impossível
Quando escritores criaram elfos, no fim das contas só pegaram humanos e acrescentaram orelhas pontudas
A partir de várias observações, minha impressão é que o efeito dos LLMs sobre a qualidade do pensamento humano é, no geral, negativo
Fico muito feliz que a escola do meu filho tenha proibido LLMs com firmeza
Só é possível entregar tarefas feitas em sala, diretamente diante do professor, e a proporção de atividades em papel aumentou bastante
Como meus dois pais eram professores de pedagogia, comparar métodos de aprendizagem era um tema comum em casa
Aprendizagem ativa, em que a pessoa cria e age por conta própria, é muito mais eficaz do que métodos passivos e centrados em recepção
LLMs tendem mais ao segundo caso, então isso me preocupa
Ao aprender uma língua estrangeira, você não melhora só memorizando vocabulário e gramática; numa conversa improvisada, parece até que usa áreas do cérebro ou capacidades completamente diferentes
Não é novidade que LLMs podem ser uma ferramenta negativa
Na minha época de escola, calculadoras eram necessárias, mas modelos caros capazes de resolver expressões simbólicas eram proibidos
Obter a resposta instantaneamente anula o valor essencial da tarefa e, na verdade, impede o crescimento
Fico curioso sobre o que exatamente significa uma "proibição hardcore"
Na escola onde estudei havia um código de honra com punição única e severa: se você fosse pego mentindo ou colando uma única vez, era expulso na hora
A gente assinava o código no topo de cada prova
Amigos que estudaram em escolas sem esse código reclamavam que era uma tradição conservadora demais
Mas, hoje, não parece haver uma forma melhor de impor uma "proibição de IA"
Na minha época de escola, a internet também estava começando a se popularizar, mas era proibido usá-la para pesquisar temas; só a biblioteca física era permitida
Até em universidades de exatas e engenharia, no primeiro ano faziam os alunos desenhar todos os projetos técnicos à mão, com lápis e régua
Na prática e nos padrões da indústria, já se usava computação gráfica, mas o trabalho manual era imposto de propósito
Pessoalmente, tenho minhas dúvidas se esse tipo de proibição extrema realmente ajuda
E também não impede o avanço dos tempos
Acho melhor ensinar a usar a tecnologia
Dá para aprender muito mesmo com LLMs ou com a Wikipedia
O essencial é a curiosidade e a vontade de aprender
Sem isso, não importa a ferramenta, não há progresso
LLMs não podem substituir a experiência individual humana, nem a escrita baseada nessa experiência
Repetir fatos ou reproduzir opiniões medianas não substitui o pensamento humano único
A própria ideia de competir com a IA na qualidade dos meus pensamentos é triste demais
O romance que você escreve, a sua história, a habilidade que você tem, tudo isso já teve precedentes e alguém faz melhor
Se o meu objetivo de vida fosse "ser o número 1 do mundo", desde o início a chance de sucesso seria mínima
E, mesmo que eu conseguisse, isso não significaria grande coisa
Pense em quem seria o melhor programador Java do mundo e se essa posição máxima traz mesmo grande amor e prestígio
A IA intensifica, de várias formas, a ansiedade existencial que eu sinto, e uma delas é me empurrar o tempo todo para um pensamento mediano
Pela própria estrutura da tecnologia, isso é inevitável, e assusta porque o pensamento criativo sempre vive nas margens
O momento em que você trava num problema é justamente a etapa anterior a tocar em algo novo, mas a tentação de usar IA rouba esse frescor e faz você copiar o que já foi feito
Essa ideia de que "a IA leva ao pensamento mediano" é interessante
Mas o controle continua sendo sempre seu
Em vez de tratar a IA como uma entidade divina, dá para vê-la como uma assistente que você pode interromper, instruir, corrigir e acionar de novo a qualquer momento
Você pode se concentrar no "o quê" e delegar só parte do "como"
Pelo contrário, é a primeira vez que vivo numa era em que consigo testar imediatamente ideias de código que tenho na cabeça
Ideias que antes eu talvez nunca tivesse executado ganham forma quando peço ao Claude para fazer um POC
Ao mesmo tempo, é verdade que a ansiedade é grande, mas sinto que todos esses movimentos estão se desenrolando na interseção entre política, tecnologia e natureza humana
Se deixarmos essas ferramentas só nas mãos dos "fortes", a sociedade pode ficar ainda mais desfavorável; por isso, também dá para usá-las do lado dos cidadãos para encontrar novas formas de organização e colaboração
Uso LLMs há anos, mas sinto que é só uma boa ferramenta, então estranhei porque minha experiência é bem diferente da do artigo
Quando você gera imagens de quadrinhos com LLM, no começo é "uau", mas logo tudo vira repetição do mesmo estilo
Com poesia também, uma ou duas tentativas até impressionam, mas depois de várias rodadas falta profundidade e sabor, fica tudo meio insosso
Com música é parecido, a repetição aparece tanto no ritmo quanto na melodia
Até ao criar Podcast, no começo parece incrível, mas a condução se repete e os apresentadores mostram pouca profundidade ou compreensão
Se eu interrompo no meio com perguntas, às vezes melhora um pouco, então isso fica meio ambíguo
Na geração de texto, com o tempo, sinto uma artificialidade muito "metálica"
A busca até quebra um galho, mas basta induzir um pouco que a resposta muda bastante, então não dá para confiar cegamente e sempre é preciso checar com outras fontes
De propósito, também tento conduzir o LLM para pontos de vista opostos e estudar opiniões conflitantes
Geração de código é boa para coisas simples, mas em coisas complexas surgem vários bugs sutis, então preciso entender cada linha por conta própria
Na verdade, esse processo de "caçar bugs" é divertido, e há um pequeno prazer em ver erros muito humanos
Por isso, o efeito em mim é exatamente o oposto do que o autor do texto descreve
Consigo testar ideias rapidamente e, graças ao feedback com menos vieses, escrever acaba ficando mais prazeroso
Toda vez que alguém desdenha de LLMs, na prática eu continuo recebendo muito mais ajuda concreta deles
Isso fica especialmente claro com código não trivial e com modelos mais novos
A ideia de que a IA inibe o pensamento, isto é, a perda da motivação para pensar, é um problema real
Há outros fatores, mas a novidade específica da IA é o desaparecimento da motivação para um esforço que antes era necessário
Antes, se eu passasse o dia inteiro só navegando na internet, nem um post de blog sairia, e eu também não ganharia reputação com isso
Agora a IA escreve blogs, emails e até livros por você
Se você não tem motivação intrínseca para pensar por conta própria, fica muito mais fácil empurrar tudo com a barriga usando IA
Por outro lado, não consigo deixar de pensar se o autor na verdade não está deprimido, e não por causa da IA
O sentido da vida é algo que cada um constrói
Se a IA faz você sentir que a vida não tem sentido, também existe a opção de simplesmente não usá-la
Ainda há muita coisa significativa para fazer e, se o seu objetivo final não é "escrever mais rápido que a IA", dá para focar em outra coisa
Se você sente que não consegue escrever algo novo e interessante, eu até recomendaria marcenaria ou algum artesanato manual
Para mim, a barreira para experimentar e testar novas ideias caiu muito
No passado, abandonei muitos caminhos por causa de tempo e custo; agora consigo tentar vários deles com liberdade
Vale lembrar que seres humanos são seres sociais
Mais deprimente do que a substituição de uma ferramenta em si é a própria existência de grupos entusiasmados e dispostos a usar essa ferramenta para trocar pessoas
Estamos numa era em que a ideia de colocar o humano em primeiro lugar vai virando uma "falácia lógica"
Em algum momento a tendência vai se inverter, mas por enquanto é uma fase bem difícil
Ainda assim, é animador ver discussões acaloradas como esta circulando ativamente a partir de vários pontos de vista
Quando uso IA em montagens físicas ou projetos práticos, meu papel parece muito mais ativo
Por exemplo, ao usar IA como assistente em projetos concretos de eletrônica e multimídia, áreas nas quais não tenho tanta intimidade, passei naturalmente a encarar desafios que antes eu não conseguia tocar
O essencial é que, se existe o desejo de ampliar ao máximo as possibilidades, a IA pode reduzir barreiras e permitir um crescimento divertido
É bom porque não fico só sentado na frente do computador; sinto a realização de ter feito algo real com o meu próprio corpo
Mas nem todo mundo quer isso, e os gostos variam
Já quando viro um coadjuvante que "ajuda outra pessoa", fico um pouco ansioso
Antes, para alguém alcançar um objetivo, eu precisava ajudar desenvolvendo diretamente; agora, com LLMs, a própria pessoa consegue ir bastante longe
Essa mudança é positiva
Mas, do ponto de vista de emprego e profissão, ela também traz certa ansiedade
Eu mesmo cheguei à conclusão de que quero fazer algo mais próximo de um "fim" do que de um "meio"
Sobre o texto que diz "o que eu faço não é competitivo diante da IA", será que o problema não era, desde o começo, o fato de a pessoa não conseguir sentir prazer no próprio processo de criar?
Mesmo que uma batedeira misture massa melhor do que eu, o prazer de sovar com as mãos continua sendo meu
Padarias e artesãos também fazem melhor do que eu, mas, no prazer de fazer com as próprias mãos, competição não entra
Com cerâmica e panificação é a mesma coisa
Se a sua alegria vinha puramente da sensação de "só eu consigo fazer isso", na verdade a abordagem já estava errada mesmo antes da chegada da IA
Numa leitura mais generosa, talvez a ênfase esteja na satisfação de "contribuir com algo que antes não existia no mundo"
O foco não seria estar acima dos outros, mas justamente essa "nova contribuição"
Cada pessoa percebe em algum momento esse fato de que o processo é a essência e o resultado não importa tanto
Se fôssemos explicar isso com a lógica de certo tipo de autor, daria para aplicar a metáfora do "arqueiro estoico"
Quando você se concentra mais na ação, isto é, no processo, do que na meta ou no resultado, se liberta da frustração
Por exemplo, em vez de ir a uma festa com a meta de fazer amigos, se você estabelece como objetivo agir com autenticidade, aumentam tanto a chance de sucesso quanto a satisfação
É importante definir metas centradas no processo
O texto trata sobretudo da queda no valor das habilidades humanas numa era pós-AGI
Isso assusta porque nosso trabalho físico e mental é, ao mesmo tempo, o nosso meio de ganhar dinheiro
Se você tiver GPUs e capital, pode colocar mil agentes inteligentes no lugar de seres humanos
Na era da AGI, o valor do trabalho white-collar tende a se aproximar de zero
Claro que existe grande expectativa em relação ao avanço científico trazido pela AGI, mas espero ainda ter um lugar nisso
Se, na competição de mercado, padeiros e ceramistas forem empurrados pelas máquinas para a situação de "vender meu código Python no Etsy", isso preocupa
Recomendo dar uma olhada em um blog sobre isso
Não acho necessariamente ruim, como alguns dizem, ter uma "motivação de performance", mas a IA, como a pandemia, acabou revelando diferenças sutis no interior das pessoas
Num ponto de inflexão, antes coexistiam vários modos de pensar, mas agora se aproxima uma época em que um deles simplesmente deixa de "funcionar"
Essa própria instabilidade é uma mudança importante
Entre os critérios de valor de uma "obra", existe uma convenção segundo a qual importa o quanto de esforço ou dedicação foi investido nela
Os vestígios do tempo e do pensamento colocados em um trabalho compõem sua dignidade
LLMs encurtam esse modo intuitivo de avaliação e abalam os critérios pelos quais julgamos obras
Surge a ilusão de que um resultado feito por IA tem mais valor do que realmente tem, enquanto o esforço humano passa a ser subestimado, desmotivando as pessoas
Também acho estranho que tenha virado moda enxergar criadores e intelectuais como se fossem movidos apenas por competitividade
Na verdade, em muitos casos, a ansiedade leva justamente a esse tipo de mal-entendido
Grande parte do debate sobre IA e arte, fora da questão de propriedade intelectual, está repleta de equívocos sobre o significado da criação humana e a própria essência da arte
Se uma voz singular construída ao longo de toda uma vida é desvalorizada num instante por causa da IA, isso abala o valor do trabalho e todo o sentimento de recompensa ligado a ele
Houve um tempo em que eu também me senti parecido em relação à IA, mas agora mudei completamente de ideia
O ponto central é não ver a IA como uma "varinha mágica que faz tudo", e sim como uma ferramenta
No momento em que você entrega tudo para a IA, perde o controle sobre a própria vida
Se você mesmo assume a responsabilidade pela direção importante e pela visão geral, e só delega à IA tarefas bem definidas, continua com o controle e ainda consegue usá-la de forma muito mais divertida
A analogia com musculação é adequada
A gente treina não apenas para levantar algo pesado na prática, mas pela sensação de conquista ao atingir metas, pelas mudanças no corpo, pela melhora da saúde e por toda a satisfação do próprio processo
Se olhar isso só pelo utilitarismo, parece sem sentido
Pelo contrário, quando você encara como uma rotina cotidiana com externalidades positivas de bônus, o estresse diminui
Como kelseyfrog mencionou, o essencial é focar não na meta, mas na "ação"
O exercício até envolve bater recordes e ganhar músculos, mas, no fundo, é uma experiência de crescimento
O próprio ato de se exercitar cria raízes no inconsciente e passa a ser apreciado sem grandes reflexões
Há um prazer em ver resultados aparecerem de forma inesperada
Essa analogia com exercício também vale para atividades que exigem esforço, como escrever
Se tudo for centrado em resultado ou em comparação com os outros, exercício, escrita e muitas outras coisas passam a parecer sem sentido
Tudo o que fazemos é "um meio para um fim"
Curiosamente, nós dois acabamos mencionando o fenômeno de uma era de abundância e seu impacto sobre realização pessoal e autonomia, então houve uma coincidência curiosa
Eu malhava desde pequeno porque queria parecer um personagem de anime