- Escrever é um processo de pensamento de fazer perguntas e buscar respostas, não apenas redigir um documento, mas um ato de ampliar a compreensão
- Textos gerados por LLM fazem você perder a oportunidade de pensar e aprender, o que equivale a "mandar outra pessoa se exercitar no seu lugar" e abrir mão do próprio crescimento
- Documentos gerados automaticamente enfraquecem a autenticidade e a confiança, passando a impressão de que o autor não pensou de fato sobre o que escreveu
- A essência da escrita está em construir liderança e confiança, e depender de LLM faz você perder essa oportunidade
- LLMs são úteis em papéis de apoio, como pesquisa, registro e geração de ideias, mas a escrita em si, quando exige pensamento e reflexão, deve ser feita diretamente pela própria pessoa
O propósito da escrita e o processo de pensamento
- A escrita é definida como o processo de levantar perguntas e respondê-las
- Um PRD responde à pergunta “o que devemos construir?”, e uma especificação técnica responde à pergunta “como devemos construir?”
- Às vezes, trata de perguntas mais fundamentais, como “o que estamos tentando alcançar?”
- Nesse processo, você também passa a refletir se está fazendo as perguntas certas
- Com a disseminação dos LLMs (grandes modelos de linguagem), vêm aumentando os documentos, artigos e ensaios gerados automaticamente
- No entanto, esses textos são apontados como uma forma de perder a oportunidade de desenvolver pensamento e confiança
- O objetivo da escrita não é simplesmente concluir um resultado, mas ampliar a compreensão de si mesmo e das pessoas ao redor
- A escrita é comparada a um processo de encontrar estrutura e significado em meio à confusão
- Por meio da escrita repetida, a capacidade de pensar e de se expressar se fortalece, em um processo de crescimento semelhante ao exercício físico
- Delegar a escrita a um LLM é como "mandar alguém se exercitar no seu lugar"
- Isso é visto como abrir mão das próprias oportunidades de aprendizado e crescimento
Construção de confiança e autenticidade
- Documentos escritos por LLMs trazem o risco de prejudicar a confiança social
- Textos em que se percebe a marca de um LLM parecem “o resultado de imitar o que outras pessoas querem ouvir”
- Eles passam a impressão de que o autor não deixou vestígios de ter realmente lutado com as ideias e pensado sobre elas
- Esse tipo de documento enfraquece a liderança e a credibilidade
- Originalmente, a escrita poderia ser um meio de construir confiança, mas acaba se perdendo essa oportunidade
- Há a crítica de que "o texto gerado por LLM prejudica não só o próprio texto, mas também a autenticidade do pensamento por trás dele"
- Se as frases foram geradas automaticamente, surge a suspeita de que as ideias também não teriam sido geradas automaticamente
Como usar LLMs no processo de escrita
- LLMs são úteis em tarefas de apoio, como pesquisa, revisão, registro de informações e transcrição de texto
- No entanto, isso deve ser separado do ato de escrever, que exige pensamento e reflexão
- Na etapa de geração de ideias, LLMs podem ser eficazes
- Mesmo que apenas algumas ideias entre muitas sejam úteis, isso não representa perda
- O usuário pode aproveitar apenas os resultados úteis e descartar o restante
- Essas ferramentas ajudam a aumentar a eficiência na entrega de software
- Mas, para usá-las corretamente, também é necessário elevar a profundidade do pensamento e o nível de reflexão
3 comentários
Textos de IA parecem convincentes até quando dizem exatamente o contrário.
Tem que ser assim, tem que ser assado. Será que isso realmente faz sentido...?
E se disserem para não usar open source nem cloud porque isso atrapalha o crescimento?
Você teria confiança para não usar nada disso e criar tudo do zero só para aprender? Existe um nível de portfólio que o mercado espera; dá para enviar como portfólio coisas como serializer e design de protocolo?
O entrevistador reconheceria o valor disso?
O importante, seja escrevendo ou qualquer outra coisa, é que se você conseguir criar algo valioso usando IA, isso está de acordo com o nosso tempo e o processo me parece legítimo
Pelo menos o esqueleto do texto você mesmo tem que montar, né.
Comentários do Hacker News
Acho que escrever é o primeiro passo para desenvolver o pensamento independente
Como em uma cena do filme Ghost in the Shell, isso me faz lembrar da frase “especialização excessiva é morte” quando a diversidade desaparece
Fico preocupado se os LLMs vão empurrar a sociedade inteira para o pensamento de grupo
Talvez as crianças do futuro tenham que aprender separadamente como pensar por conta própria e formar opiniões
Post relacionado
Sempre considerei a escrita como a etapa final do pensamento
Ideias que pareciam perfeitas na cabeça revelam contradições quando são colocadas no papel, e é nesse processo que o pensamento se organiza
Mas muitos documentos não passavam de um simples despejo de contexto (context dump)
Nesses casos, acho melhor deixar a IA escrever a documentação e a pessoa focar no raciocínio central
Parece que um dia um loop fechado em que IAs passam contexto para outras IAs vai virar a base do trabalho
Eu também passo bastante por isso: no meio de escrever um relatório, de repente o cerne do problema se esclarece
Dar a uma pessoa a mesma informação bruta que você daria a um LLM já deveria bastar
O processo de escrever e revisar expõe nossas próprias falhas e nos leva a fazer perguntas melhores
Quando escrevo em tom conversacional, meu pensamento se aprofunda mais
Ao tentar concretizar um pensamento, você acaba encarando a vagueza e as inconsistências que estavam na sua cabeça
Não entendo por que deixar a IA escrever release notes que ninguém vai ler seria “a melhor solução”
Acho que seria melhor resumir tudo de forma concisa
Não concordo com a afirmação de que LLMs são “especialmente bons em gerar ideias”
Porque eles tendem a produzir apenas resultados medianos e sem ousadia
Se você quer ideias interessantes ou novas, LLMs não são adequados
Ao explicar um design, acabo descobrindo sozinho os casos de borda do problema
Ser diferente só por ser diferente não é uma virtude
LLM está mais para gerador de senso comum do que gerador de ideias
Se você ajustar temperature ou top-k para selecionar tokens de baixa probabilidade, o resultado já fica bem diverso
A maioria das ideias não serve, mas uma delas às vezes vira uma pista para uma boa direção
Ainda assim, sinto que ajuda um pouco
A ideia de fato é criada pela pessoa, e o LLM apenas lista soluções relacionadas para servir de inspiração
Se você envia um texto escrito por LLM sem mexer em nada, a outra pessoa acaba revisando não o seu pensamento, mas a saída do modelo
Isso é especialmente problemático no trabalho, quando alguém entrega código escrito por LLM do jeito que saiu
Passar adiante algo que você mesmo não revisou é fugir da responsabilidade
No fim, talvez surja uma estrutura em que o produtor compensa o consumidor
O título deste texto é “não deixe a IA escrever por você”, mas o ponto central na verdade está mais perto de “não deixe a IA pensar por você”
Escrever é só uma das formas de pensar, não a única
Para algumas pessoas, gravação de voz pode ser algo mais natural
Muitos autores, como Rod Serling e Mark Twain, também trabalharam com ditado (dictation)
Veja o vídeo de Mark Duplass sobre The Talking Draft Method
Depois, usar IA para transcrição e correção gramatical pode ser eficiente
Gravo de improviso, depois coloco no NotebookLM e dou o prompt “resuma no meu jeito de falar, com a minha voz”
Esse processo não economiza tempo, mas ajuda muito no controle emocional e em superar o medo de começar
Também é útil como tecnologia assistiva para TDAH
Desde que transferi para o digital minhas antigas morning pages escritas à mão, sinto que perdi alguma coisa
Mesmo assim, há valor por causa da busca e dos recursos de RAG
É diferente de uma conversa comum
Como ela ainda resume tudo no final, isso também ajuda a organizar
A IA me ajudou a expressar melhor minhas ideias
Quem escreve bem às vezes parece esquecer o quanto isso é uma habilidade rara
Eu paro de usar IA no campo da arte (art)
Como dizia Kurt Vonnegut, o ato artístico é um processo de crescimento da alma
Relatórios de trabalho podem receber ajuda da IA, mas blog ou texto pessoal eu preciso escrever por conta própria
Na página explicativa do meu blog também coloquei essa filosofia
Ironicamente, foi graças aos LLMs que percebi a essência da escrita
Para mim, escrever é uma limpeza de cache mental
Se eu não escrever com as próprias mãos, meus pensamentos não são realmente processados até o fim
Deixar isso para a IA é como mandar outra pessoa se exercitar por você e esperar ganhar músculos
A verdadeira armadilha é ler as frases elegantes do modelo e achar que você entendeu
Assim como a fotografia revelou a essência da pintura, a IA nos faz perguntar de novo qual é o propósito da escrita
Como o inglês não é minha língua nativa, a escrita formal é difícil para mim, mas a IA ajuda muito
Claro, eu sempre reviso pessoalmente o resultado escrito pela IA
Uma palestra antiga que ouvi sobre o programa de escrita da Universidade de Chicago me marcou bastante
O professor dizia que “escrever é o próprio processo de pensar”
Ao expressar algo por escrito, o pensamento ganha forma concreta e as ideias se conectam entre si
Ainda bem que tive esse tipo de treino numa época em que ferramentas como Claude não existiam
Espero que as crianças não percam a capacidade de pensar só por ficarem apertando o “botão fácil”
Vídeo da palestra
Tenho inveja da abundância de ferramentas que esta geração possui e fico curioso com os novos usos que eles vão criar
Dá para lançar perguntas, verificar respostas e expandir o pensamento
Escrever é um ato complexo com vários propósitos, como persuadir, ensinar, criar e organizar conhecimento
LLMs permitem controlar com precisão elementos linguísticos como estilo, metáforas e ritmo
No fim, a qualidade da escrita com IA depende da capacidade de direção do usuário
LLMs só dão ideias realmente interessantes quando você “força até o limite”, mas logo começam a se repetir
No fim, o principal é usá-los como ferramenta de apoio
Deixar tudo nas mãos deles é improdutivo, mas, se usados de forma personalizada, podem ajudar no pensamento
Para quem não tem o inglês como língua nativa, eles têm grande valor como meio de expressão clara