- A importância da escrita científica produzida diretamente por humanos continua sendo fortemente enfatizada mesmo na era dos LLMs
- Escrever vai além de transmitir resultados de pesquisa: é uma ferramenta para refinar o pensamento e descobrir novas ideias
- Textos escritos por LLMs carecem de responsabilidade e autenticidade, além de apresentarem alto risco de gerar informações falsas (alucinações)
- LLMs são eficazes como ferramenta para melhorar a legibilidade, corrigir gramática e gerar ideias, mas delegar a escrita inteira a eles pode significar perder oportunidades de pensamento crítico e pensamento criativo
- A experiência de construir uma narrativa de pesquisa criativa e a oportunidade de reflexão são processos importantes e próprios dos seres humanos
O valor da escrita científica gerada por humanos na era dos LLMs
- A escrita científica é central para o método de pesquisa e uma prática comum para comunicar resultados de pesquisa
- Escrever não é apenas relatar resultados, mas um processo de organizar o pensamento de forma estruturada e intencional e extrair as mensagens principais
- Há também estudos mostrando que a escrita à mão tem efeitos positivos sobre a conectividade cerebral e sobre aprendizagem e memória
A necessidade de uma escrita científica centrada no humano
- Defende-se que a importância da escrita científica feita diretamente por humanos deve continuar sendo reconhecida
- Com LLMs, é possível redigir rapidamente artigos inteiros ou relatórios de revisão, mas um LLM não pode ser autor (falta responsabilidade)
- Se escrever é pensar, então um artigo escrito por um LLM equivale a ler o 'pensamento' do modelo, e não o do pesquisador, o que é apontado como um problema
Limites e cuidados no uso de LLMs
- Os LLMs atuais podem gerar informações incorretas, algo chamado de alucinação
- Como citações e referências geradas por LLMs podem ser fictícias, é preciso verificar tudo cuidadosamente, e isso pode até consumir mais tempo na prática
- Alguns problemas dos LLMs podem ser mitigados com modelos treinados apenas em bases de dados científicas, mas sua eficiência real ainda é incerta
Formas positivas de usar LLMs
- LLMs podem ser úteis para melhorar a legibilidade, corrigir gramática, buscar e resumir diversos artigos e fazer brainstorming de ideias
- Também podem ajudar a superar bloqueio criativo, sugerir diferentes formas de explicação e descobrir conexões entre novos temas, auxiliando o pensamento criativo
O valor da criatividade e da reflexão humanas
- No entanto, delegar toda a escrita a um LLM leva à perda de oportunidades de reflexão sobre o campo de pesquisa e de construção de uma narrativa criativa
- O processo de reconstruir o conteúdo da pesquisa como uma história atraente e persuasiva é uma capacidade humana essencial, que vai além dos artigos acadêmicos
1 comentários
Opiniões do Hacker News
Acho que ler é pensar. E, como leitura e escrita fazem parte do processo de pensamento, é arriscado delegá-las de forma habitual a modelos de IA. Especialmente durante a fase de formação, os estudantes precisam aprender por conta própria a pensar por meio da leitura e da escrita — com reflexão, anotações e prática constante. É parecido com usar calculadora: depois de adquirir certa base, tudo bem recorrer a uma calculadora eletrônica, mas a prioridade deve ser ter a experiência de calcular mentalmente ou resolver à mão. Isso ajuda a criar o hábito de perceber erros de digitação e conferir os resultados. Preocupa-me ver crianças e jovens, cuja capacidade de pensar ainda não está consolidada, começando a delegar tarefas aos LLMs
Quero citar a história da invenção da escrita no Egito Antigo, mencionada no Fedro de Platão. Thoth enfatiza a utilidade da escrita para Thamus, mas Thamus alerta que depender dela enfraqueceria a memória. Esse debate, no fim das contas, vem se repetindo há mais de 2 mil anos. Eu mesmo acho que Thamus pode ter razão, mas a realidade é que hoje todos nós vivemos usando leitura e escrita
O simples ato de escrever algo no papel já produz um pensamento mais profundo. Isso é especialmente importante em engenharia. Por isso, em muitas empresas de tecnologia se desenvolveu uma cultura de documentação, como RFCs. Isso ajuda muito tanto quem escreve quanto quem revisa
Ler é seguir o pensamento de outra pessoa, mas escrever é explorar diretamente o meu próprio pensamento. Por isso escrever é doloroso para tanta gente e, ao mesmo tempo, tão necessário. E ensinar também é importante. Refinar o pensamento com clareza é um trabalho muito valioso e difícil
Vejo o impacto dos LLMs sobre o pensamento como igual ao da calculadora. Eles fazem você pular certas etapas do raciocínio, mas, em troca, permitem novos tipos de pensamento. No meu caso, os LLMs aumentaram minha capacidade de pensar. Como eles aliviam tarefas repetitivas, pude gastar mais tempo e energia extraindo rapidamente apenas o “sinal” da informação ou combinando ideias de áreas diferentes. Posso cometer erros, mas sem LLMs eu provavelmente cometeria erros parecidos, só que mais devagar. Na verdade, em áreas em que não sou especialista, talvez eu desistisse da pesquisa ou pensasse de forma muito mais limitada. Impedir o uso de LLMs não aprofunda automaticamente o pensamento. Assim como proibir calculadoras não faz todo mundo ficar bom em matemática, permitir calculadoras deixa quem gosta de matemática ir muito mais longe
Essas crianças vão viver em um futuro com IA avançada. Como o mundo muda rápido, acredito que elas mesmas vão perceber isso. Mas também existe a realidade de que a abundância digital sonhada pela geração da internet está se transformando cada vez mais em um pesadelo de enxurrada de conteúdo descartável e guerra de informação
Quero citar Paul Graham: "Escrever é pensar. Para escrever bem, é preciso pensar com clareza, e pensar com clareza é extremamente difícil. Existe uma forma especial de pensamento que só pode ser feita por meio do ato de escrever. Se você apenas pensa sem escrever, está só se enganando, achando que está pensando. Se o mundo se dividir entre 'os que escrevem' e 'os que não escrevem', as consequências serão muito mais perigosas do que parecem. Em breve, ele se dividirá entre 'os que pensam' e 'os que não pensam'"
https://www.paulgraham.com/writes.html
Pensamento e escrita estão intimamente ligados. Pensamento e uso de ChatGPT não
Link do MIT Media Lab, "Your Brain on ChatGPT": https://share.google/RYjkIU1y4zdsAUDZt
Fico em dúvida sobre como um LLM poderia realmente “escrever” um artigo científico. Por exemplo, se você lhe der resultados de western blot, dados de certos camundongos geneticamente modificados e dados de sequenciamento de célula única, o artigo acaba revelando uma nova proteína e explicando como editar genes em camundongos altera determinada via. Que insumos você daria ao LLM, e como ele saberia por que essa descoberta é relevante? Na minha visão, o LLM no fundo só parafraseia o que eu mando. A parte difícil da escrita real é “decidir como contar a história”
Na pós-graduação, cada área ensina um formato padrão de escrita de artigos. Se o LLM tiver aprendido artigos suficientes daquela área, ele pode posicionar automaticamente as informações fornecidas pelo usuário nas seções adequadas. Grande parte do tempo gasto escrevendo um artigo vai para citações e formatação, então seria até melhor deixar esse tipo de trabalho estilístico e repetitivo para o LLM. Para o cientista, rigor e clareza são importantes, mas eu gostaria de automatizar a burocracia de adequação de estilo
Um LLM também pode ter aprendido um repositório inteiro de artigos, como o arXiv, e talvez compreenda a literatura relevante melhor do que um ser humano
Um LLM também pode primeiro elaborar um plano ou esboço, então isso também é uma forma de escrita
Até falar é pensar. Por isso a liberdade de expressão está na Primeira Emenda. Se alguém limita meu direito de falar, também controla meu pensamento.
Escrever é como um superpoder, tipo a Penseira de Harry Potter. Permite tirar ideias da cabeça, examiná-las em várias camadas de análise e armazenar e organizar memórias com facilidade
A noção atual de liberdade de expressão, na verdade, se consolidou relativamente recentemente, entre as décadas de 1910 e 1920. Antes disso, o significado de free speech era bem diferente do atual. Houve um ótimo podcast sobre isso, como o Radiolab
Site relacionado: https://voicebraindump.com
Quando as pessoas dizem “escrever é importante”, às vezes penso que no fundo elas querem dizer “eu fico mais inteligente e me sinto bem quando escrevo”. Na prática, acho que passamos muito tempo combinando ideias mentalmente, e só quando tudo se junta é que fazemos a síntese em um nível mais alto — e é fácil confundir esse verdadeiro processo de síntese com o ato de escrever. Se eu tivesse tentado escrever uma semana antes, teria sido improdutivo
Pelo menos para mim, não é assim. Ao transferir pensamentos, ideias e conhecimento de forma concreta para o papel, encontro erros ou lacunas e ganho a chance de corrigi-los. Não se trata só de revisão; também surgem novas perspectivas e pontos de vista — coisas que antes nem estavam na minha consciência. Eu uso a escrita como ferramenta de pensamento. Outras ferramentas são brainstorming em grupo e debate. Essas práticas complementam e fortalecem meu pensamento, além de sugerirem novas direções e conexões. Também recomendo o ensaio de Paul Graham, sobre transformar ideias em palavras, e o livro Writing to Learn, de Paul Zissner. Praticar escrita como forma de aprendizado também tem algo do efeito de “ensinar”, em sintonia com o método Feynman
https://paulgraham.com/words.html
Pela minha experiência pessoal, quando de fato escrevo, encontro contradições e lacunas no meu pensamento ou no meu conhecimento. O ato de encontrar e corrigir isso é justamente por que digo que escrever é pensar
Não concordo. O meu método é primeiro colocar no papel todos os pensamentos ainda não misturados e depois reorganizá-los e reestruturá-los até que uma forma apareça. No fim, surge um resultado sintetizado. Alguma estrutura já devia existir na minha mente, mas não estava claramente visível. O simples fato de haver repetidas reorganizações já é prova de que a própria escrita é um trabalho de síntese
Só quando coloco em palavras consigo perceber falhas ou erros. Se eu não escrever, pela minha experiência, nunca vou encontrá-los
É uma visão cínica demais. Cada pessoa pensa e trabalha de um jeito, e cada uma tira benefícios diferentes disso. Em geral, ninguém diz “escrever é uma virtude” só para se exibir
Eu me identifico com a mensagem de que “escrever é pensar”, mas isso é verdade dependendo das condições. Nem sempre foi assim. Na prática, só aprendemos a desenvolver o pensamento escrevendo depois que escrever ficou barato. Se você olhar obras e diários de autores dos séculos 18 ao começo do 20, como Tolstói, Zweig e Goethe, parece que eles concebiam o livro inteiro na cabeça antes e depois o escreviam de uma vez em 20 ou 30 dias. Antigamente, pensamento e escrita eram coisas separadas. Hoje isso mudou graças ao papel barato e aos computadores. Não quer dizer que o modo atual esteja errado, mas não devemos achar que “pensar = escrever” é a única forma possível. Sócrates também dizia que a escrita prejudicava a memória, e isso não era totalmente falso, mas hoje todo mundo usa escrita. A crítica aos LLMs é curiosamente irônica. A analogia com a escrita surge naturalmente. As crianças que crescerem com LLMs vão pensar de forma diferente
Acho que isso é mais uma reação à afirmação de que “pensamento é escrita”. Eu também acho que dá perfeitamente para pensar sem escrever. Só que a escrita não é apenas despejar um pensamento pronto; ela ajuda a criticar o próprio pensamento, gerar novas ideias, simplificar ou expandir o que foi pensado. Quando se externaliza isso em texto, fica muito mais fácil revisar em um nível metacognitivo
Quando o papel era caro, usavam-se tábuas de cera ou de madeira para registros temporários. Também duvido de quão comum era realmente conceber um livro inteiro só na memória e escrevê-lo de uma vez, e existem evidências sobre o processo de escrita de Guerra e Paz de Tolstói
https://www.amazon.com/Tolstoy-Genesis-Peace-Kathryn-Feuer/dp/0801419026
Sempre que vejo textos filosóficos medievais longos e lógicos, fico me perguntando como conseguiam desenvolver aquilo numa época em que até papel para anotações temporárias era raro.
E, quanto à ideia de que “as crianças que crescerem com LLMs vão pensar de forma diferente”, queria saber em que sentido exatamente. Vendo como universitários usam LLMs hoje, fico preocupado de que, mais do que pensar de outro jeito, eles estejam pensando menos
Existe uma teoria parecida, mas um pouco diferente, de Larry McEnerney. Ele divide a escrita em escrita para pensar e escrita para comunicar. A escrita para pensar existe desde antes de Sócrates, mas é algo mais próximo de uma prática pessoal. A escrita para comunicar abrange romance, jornalismo e muito mais. Larry trata principalmente da dificuldade de estudantes que preparam artigos em conectar essas duas coisas
LLMs são bem diferentes da “escrita” tradicional. Eles se parecem mais com agentes criativos. Na escrita, eu tenho a vantagem de poder repetir, revisar e refinar várias vezes meus próprios pensamentos; com LLMs, agora “outra pessoa” faz por mim o pensamento, a escrita e a edição, e minha própria quantidade de pensamento diminui. Se a bicicleta é uma forma de ir mais longe com minha própria força física — como a escrita — e o carro depende de uma fonte de energia completamente diferente — como o LLM —, qual dos dois seria melhor para a saúde do corpo? E a afirmação de que Tolstói mantinha um livro inteiro na cabeça e depois o escrevia rapidamente é interessante. Fico curioso sobre exemplos ou evidências reais. Sendo um nobre como Tolstói, ele provavelmente tinha recursos de sobra
Muita gente interpreta que, se os LLMs substituírem a escrita humana em si, isso trará riscos ao desenvolvimento humano. Eu sou mais otimista. Se uma boa escrita leva a um bom pensamento, então todo esforço para melhorar minha escrita também se conecta a melhorar minha capacidade de pensar. Nesse sentido, os LLMs podem até ajudar bastante a melhorar a habilidade de escrita e, por consequência, o próprio pensamento. Também é possível receber feedback valioso sobre contexto e temas relacionados. Acredito que, com moderação, usar LLMs pode até nos tornar pessoas melhores
Sempre que preciso pensar seriamente e com profundidade, abro o Sublime Text e vou escrevendo a situação linha por linha, da forma mais concisa possível. Nessa hora, faço a mim mesmo perguntas muito diretas e básicas, tentando realmente entender a essência, o objetivo e o caminho. É como se eu estivesse respondendo a um chefe mafioso: sem desculpas, sem justificativas, só a verdade. Quando faço isso, entendo a estrutura geral e imediatamente começo a enxergar até a lista de tarefas
Meu antigo gerente, que também era editor, costumava dizer que escrever é “descoberta”. Ou seja, está essencialmente no mesmo campo do pensamento. Concordo com isso