Estudo do MIT conclui que o uso de IA reconfigura o cérebro e provoca declínio cognitivo
(publichealthpolicyjournal.com)- Um estudo do MIT indica que o uso de LLMs como o ChatGPT leva a declínio cognitivo de longo prazo, incluindo enfraquecimento da conectividade cerebral e perda de memória
- Os estudantes participantes mostraram que, quanto mais dependiam repetidamente da IA, mais diminuíam a capacidade de integração criativa e a autonomia
- Exames de EEG confirmaram hipoativação das redes de atenção e processamento visual no grupo que usou LLM
- O grupo que usou mecanismos de busca manteve funções executivas mais fortes, maior ativação da memória e capacidade de processamento visual
- Mesmo após deixar de usar LLM, foi difícil recuperar totalmente a função cerebral, e a dependência de IA levou a uma tendência de “transferência da carga cognitiva”
Principais descobertas do estudo do MIT: uso de LLM e declínio cognitivo
O estudo realizado no MIT, "Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task", revelou que a dependência repetida de inteligências artificiais como o ChatGPT pode causar danos cognitivos de longo prazo no cérebro
Os estudantes participantes relataram que, quanto mais escreviam redações com apoio da IA, mais experimentavam enfraquecimento das conexões neurais, queda de memória e perda de senso de autoria sobre a tarefa
Os resultados gerados por IA às vezes recebiam avaliações altas na aparência externa, mas, nesse processo, o cérebro mostrava uma tendência gradual de entrar em estado de desativação
Queda da conectividade cerebral e dependência de inteligência artificial
- Segundo as medições de EEG, à medida que o uso de inteligência artificial aumentava, a conectividade cerebral (systematic neural connectivity) diminuía gradualmente
- Grupo que usou apenas o cérebro: apresentou a conectividade mais forte e mais ampla
- Grupo do mecanismo de busca: mostrou nível intermediário de ativação cerebral
- Grupo do LLM: enfraquecimento da coesão em todas as faixas de ondas cerebrais (alfa, beta, delta, teta)
- No grupo do LLM em particular, as redes de atenção e de processamento visual ficaram visivelmente hipoativadas
- Na Session 4, ao tentar escrever sem ajuda de IA, os participantes com experiência prévia em LLM mostraram redução no funcionamento das redes centrais do cérebro
Distorção da memória e dos caminhos de aprendizagem nos usuários de LLM
- Depois de depender do LLM, os estudantes passaram a não conseguir lembrar bem do que tinham acabado de escrever
- Foi observada interferência clara nos caminhos cerebrais ligados à memória de longo prazo e à aprendizagem
- Durante o uso da IA, enfraqueceu-se a integração de informações pelo cérebro e a abordagem automotivada
- Os participantes relataram distanciamento psicológico em relação ao resultado e redução do senso de autoria
Limites da transição da IA para o uso do próprio cérebro
- Na quarta sessão, o grupo que havia usado LLM e depois passou a escrever apenas com o próprio cérebro mostrou que a ativação cerebral não se recuperou até o nível da sessão original (uso apenas do cérebro)
- Em diferentes indicadores, como ondas cerebrais, esforço na tarefa e autoconsciência, foi observada uma tendência de permanência abaixo da baseline
Usuários de mecanismos de busca mantêm envolvimento cerebral mais saudável
- O grupo que usou mecanismos de busca manteve níveis altos em indicadores cognitivos importantes, como funções executivas, ativação da memória e recordação de citações
- No EEG, foi confirmada maior ativação dos lobos occipital e parietal, algo estreitamente relacionado ao processamento visual e ao esforço na tarefa
Transferência da carga cognitiva (Cognitive Offloading) causada pela dependência de IA
- A equipe de pesquisa confirmou claramente que, quando o cérebro é exposto repetidamente a LLMs, surge uma tendência de interromper por conta própria o esforço de integrar informações e memorizá-las (neural efficiency adaptation)
- Isso leva a fenômenos como postura passiva diante da tarefa, edição mínima e menor nível de integração conceitual
Eficiência no curto prazo, dívida cognitiva no longo prazo
- O grupo do LLM obteve, superficialmente, certo nível de pontuação dos avaliadores, mas apresentou limitações evidentes, como:
- falta de integração estratégica
- menor diversidade na estrutura de expressão
- caráter curto e mecânico do resultado
- Com o passar do tempo, persistiu uma tendência consistente de queda em engajamento cognitivo, desempenho e satisfação pessoal
Conclusão e recomendações do estudo
- Quanto mais pessoas dependem da inteligência artificial para executar tarefas complexas, maior o risco de queda acentuada das capacidades cognitivas intrínsecas e da criatividade humanas
- Ao usar inteligência artificial, o estudo ressalta a importância de fazer pausas regulares e reservar tempo para usar diretamente o próprio cérebro
- A inteligência artificial vai além de simplesmente substituir o trabalho humano; ela afeta o próprio sistema de pensamento e as funções cerebrais humanas
Sobre o autor
- Nicolas Hulscher, MPH
- Epidemiologista e Foundation Administrator da McCullough Foundation
- Conteúdos adicionais relacionados podem ser encontrados nas contas da McCullough Foundation e do autor no X (antigo Twitter)
2 comentários
Pelo conteúdo, parece que quem usou LLM só ditou a resposta.
Normalmente, não se usa com um objetivo ou um fluxo desejado em mente, conferindo a resposta e repetindo o ciclo de feedback? Fico curioso para saber se, nesses casos, o resultado é o mesmo.
Comentários do Hacker News
Quero compartilhar uma experiência que tive na pós-graduação conversando com um doutorando que eu admirava. Toda vez que ele lia um artigo, escrevia código com as próprias mãos para implementá-lo. Eu levava meses, mas ele costumava terminar o código em poucos dias. Ele me explicou que, com muita prática, você consegue melhorar. Além de programar rápido, ele foi ficando cada vez melhor em analisar artigos com rapidez e integrar ideias, e também desenvolveu intuição sobre o que funciona. Hoje eu também já sou bastante sênior e quase não trabalho mais diretamente com código, mas ainda sinto que é muito valioso mexer pessoalmente em código novo e em novas ideias, sofrendo um pouco no processo. Acho que quem pensa que basta ajustar um pouco o prompt está perdendo oportunidades de aprendizado realmente importantes
Acho que, na prática, já estamos vendo uma diferença de habilidades surgir bem diante dos nossos olhos. Há (1) pessoas que entendem conceitos profundamente, constroem modelos mentais e conseguem implementar sozinhas qualquer nível de código, e (2) pessoas que terceirizam esse processo para a máquina e vão perdendo essa capacidade aos poucos. Hoje essa diferença ainda não é tão gritante, mas acredito que em alguns anos ela ficará bem evidente
É preciso tomar cuidado com a falácia lógica de “programadores de verdade escrevem assembly na mão”. Quando os compiladores se popularizaram, havia preocupação de que os programadores deixariam de entender o funcionamento do próprio código. Em certa medida isso era verdade, mas, na prática, a maioria das pessoas não teve grande dificuldade para construir coisas úteis. Se você para de pensar, obviamente também aprende menos. Se consegue pensar um nível acima de abstração, os detalhes nem sempre precisam ser tão importantes. A limitação da universidade é que ela não é “o próximo nível de abstração”, mas uma sequência de ideias cuidadosamente selecionadas apenas para transferência de conhecimento validado. Isso é diferente de ganhar tempo para construir algo de verdade em uma startup ou enfrentar problemas maiores. Claro, esse método não serve para todo doutorado. Há áreas em que conhecer os detalhes é essencial, mas, no mundo atual mais especializado, isso talvez seja até um ganho líquido
Isso me parece parecido com estudar matemática. Dá para passar o dia inteiro lendo um livro de matemática e admirando as ideias, mas, se você não resolver de fato as definições, teoremas e exercícios, quase não aprende nada
Na área de ciência de dados existe a expressão “não existe almoço grátis”. À medida que ferramentas como o ChatGPT se tornam cada vez mais comuns, até mesmo pessoas com doutorado ou mais acabam parecendo magos quando estudam por conta própria sem usar essas ferramentas. Já estou vendo gente que não tem habilidade suficiente para programar em nível intermediário ou acima, ou cuja intuição piorou. Isso já não é mais síndrome do impostor; é o fenômeno de não conseguir trabalhar direito sem IA. Eu, para cada tema, primeiro tento pensar sozinho e formular perguntas sem ferramenta nenhuma. Só depois, quando já tenho alguma intuição, faço perguntas ao ChatGPT
Interessante. Fico curioso se isso significa que ele realmente escrevia código com caneta e papel. Parece mesmo um método que ajuda a entender melhor (não programo profissionalmente, aliás). Historiadores também são assim: quem passa o dia inteiro imerso em arquivos físicos vai, com o tempo, acumulando intuição e insight sobre o tema. Já quando a pessoa só sai pescando citações e documentos no Google, o risco de entender o assunto de forma superficial é muito maior. Fica mais difícil pensar de vários ângulos ou perceber relações entre fenômenos, e também há uma tendência a se apegar demais à própria tese
Há alguns pontos que valem ser destacados. (1) Este artigo está no arXiv, ainda não foi publicado nem passou por peer review. É preciso ter isso em mente. (2) São 18 pessoas por coorte. (3) No total, 54 participantes. O N é pequeno e parece ser composto principalmente por alunos do MIT de 18 a 22 anos, então há questões de reprodutibilidade e generalização. Durante o experimento, também mediram EEG, o que coloca os participantes em um ambiente estranho e desconfortável. Além disso, o estudo compara escrever redações usando LLM, ferramenta de busca ou sem ferramenta alguma, então os participantes sabem exatamente o que está sendo avaliado. O resumo do artigo diz que ele investiga o custo cognitivo do uso de LLM em tarefas de redação. Escrever uma redação é uma atividade complexa, usada em escolas e exames, que mobiliza diversos processos cognitivos. É preciso lidar ao mesmo tempo com tarefas de nível macro, como organizar ideias e estruturar argumentos, e tarefas de nível micro, como escolha de palavras, gramática e sintaxe. Para avaliar engajamento cognitivo, carga cognitiva e atividade cerebral, foi usado EEG. Além do LLM, o estudo comparou atividade cerebral com busca clássica na internet e sem nenhuma ferramenta. Artigo original
Os 54 participantes tinham entre 18 e 39 anos (média de 22,9 anos, SD=1,69) e foram recrutados em cinco universidades: MIT, Wellesley, Harvard, Tufts e Northeastern. Eram 35 estudantes de graduação, 14 de pós-graduação e 6 pós-docs/pesquisadores/engenheiros de software. O tamanho e a composição da amostra são limitações, e estudos futuros deveriam usar amostras maiores e mais diversas. Mas, por isso, eu não diria necessariamente que haverá “dificuldade de reproduzir” os resultados
Acho que já passou da hora de parar de dizer “tem que considerar isso” só porque o artigo ainda não passou por peer review. Peer review também não é um processo científico ideal; muitas vezes traz atrasos desnecessários, comentários sem sentido e ainda é trabalho grátis para grandes editoras. Já publiquei mais de 30 artigos e recebi tantas avaliações ruins quanto boas. No mínimo, deveríamos caminhar para open peer review e comunicação direta com editores. A ciência deveria ser um mercado de ideias. O restante das críticas me parece totalmente válido. As conclusões do artigo também são apressadas demais e parecem quase promocionais. Pessoalmente, acho o sistema atual de peer review ultrapassado
Este estudo é um experimento sobre o efeito do ChatGPT na capacidade de escrever redações. O que ele diz é que, se você não pratica escrita, sua habilidade de escrever piora, e que a atividade cerebral mostrou diferenças em relação a outros métodos. Isso, por si só, não é evidência de algo especialmente nocivo. Além disso, o artigo usa o termo “cognitive debt” em vez de “cognitive decline”, o que é uma distinção importante para a interpretação. Acho plausível que outros estudos encontrem resultados parecidos, mas ainda é cedo para concluir que IA/LLM faz mal ao cérebro. Também dá para ler isso como uma redução da carga cognitiva que torna a redação mais fácil. Ainda assim, são necessários estudos adicionais, inclusive sobre qualidade do resultado produzido
Outro cuidado importante é que o termo “AI” aqui está sendo usado como substituto de LLM. IA é uma coisa muito mais ampla. É difícil imaginar que geração de imagem, vídeo ou áudio leve a declínio cognitivo. No caso de LLM, no máximo eu diria que pode gerar “preguiça intelectual” ao fazer com que a pessoa sinta menos necessidade de memorizar ou lembrar coisas por conta própria
Acho que esse efeito é reproduzido com bastante facilidade. Quando interajo com pessoas que recentemente passaram a usar muito LLM, tenho nitidamente a impressão de que o QI delas caiu. Vejo gente que antes debatia ativamente e agora não consegue conversar sem antes checar a resposta no Grok ou no ChatGPT
A matéria e a manchete, na verdade, repetem de forma grosseira um original anterior bem mais criativo. Os próprios pesquisadores escreveram claramente no FAQ para a imprensa não interpretar mal o estudo nem usar frases como “LLM está nos deixando burros”. Alguns comentários no HN são um bom exemplo de viés cognitivo: as pessoas absorvem a informação sem conferir o material de fato
Entendo por que isso está virando papo de Reddit. Esse tipo de assunto clickbait vive aparecendo. Especialmente porque, neste estudo, são só 18 pessoas usando ChatGPT 4 vezes ao longo de 4 meses, sem controle suficiente do ruído. Concordo que usar IA em excesso é um problema, mas esse estudo em si parece apenas clickbait sobre um tema que já não gostamos
Tenho a sensação de que quase ninguém leu o artigo de verdade. O grupo que usou LLM nas sessões 1 a 3, ao fazer a sessão 4 sem LLM, mostrou menor conectividade, e todos os grupos aumentaram a conectividade ao longo das sessões. O importante é que, na sessão 4, a conectividade não voltou totalmente ao nível inicial da sessão 1; ficou em algum ponto intermediário. Ou seja, eles ainda estavam aprendendo. O conceito filosófico de Extended Mind é central aqui. Na verdade, quando o grupo que passou as sessões 1 a 3 sem LLM foi usar LLM na sessão 4, o cérebro “explodiu” em ativação. Esse é o verdadeiro ponto central da conclusão do estudo
Pessoalmente, depois de 8 meses programando com ChatGPT, tive a sensação de que minha cabeça foi ficando mais lenta. O resultado do estudo me toca bastante. Ainda assim, imagino que quase não vão sair novos estudos tratando isso de forma negativa. A sociedade está sendo conduzida por forças que não querem opinião pública negativa sobre IA
Acho que não se deve deixar um LLM escrever ou revisar tudo por você. Ele pode ser útil para feedback, exploração de ideias ou para encontrar lacunas, mas a escrita precisa ser levada até o fim pela própria pessoa. É fácil demais entregar o cérebro ao LLM. Não é só em redação: ao depender de LLM para resolver problemas de programação, senti uma queda cognitiva real. Em ecossistemas de programação desconhecidos, se você só fica copiando e colando erros, resolve o problema rápido, mas aprende muito menos. Claro, em compensação fica mais fácil começar e você trava menos, então é preciso equilíbrio. É essencial manter a capacidade de lutar diretamente com o problema
Minha experiência foi o oposto. Em vez de simplesmente copiar e colar erros ou aceitar respostas da IA, eu continuo perguntando “por que isso funciona?”. Faço o modelo explicar comando por comando, flag por flag, e só avanço quando entendi tudo completamente. Isso não grava tão profundamente quanto explorar por conta própria, mas me permite passar por mais problemas mais rápido e aumentar o volume de aprendizado
Quando o Firefox ganhou autocorreção, eu revisava as respostas certas e praticava escrever sem erros, e isso me ajudou bastante a melhorar (inglês não é minha língua nativa). Acho que com LLM vale o mesmo: é uma ferramenta para aprender mais rápido e chegar mais rápido a conclusões. Quando esqueço alguma configuração que já fiz antes em um projeto novo, o LLM pode me lembrar do tipo de coisa que eu teria anotado numa wiki antiga. O importante é fazer um autocheck para usar LLM a fim de se tornar um engenheiro melhor
Esse é o verdadeiro problema, mas, se eu usar LLM com moderação, consigo alcançar rapidamente áreas próximas à minha especialidade e não fico travado por pequenas lacunas de conhecimento, podendo focar no trabalho essencial. Por exemplo, implementei rapidamente processamento de sinais acústicos subaquáticos em C, tratando de forma prática e veloz uma área que eu não precisava dominar perfeitamente. Antes, eu teria passado muito mais tempo só lendo código de outras pessoas
Mandar o LLM escrever texto é preguiça, e o resultado nem fica tão bom. Melhor é eu escrever o rascunho e usar o LLM para receber feedback, checar pontos cegos ou encontrar vocabulário melhor
Vejo esse hábito com LLM como algo parecido com depender demais de navegação por GPS ou apps de mapa. É extremamente conveniente, mas tem o efeito colateral de atrofiar áreas do cérebro ligadas à memória espacial e à tomada de decisões. Uma vez confiei cegamente nisso e falhei feio. Antigamente, mapas de papel eram incômodos, mas em troca exigiam mais interação e davam mais tempo de reflexão. Hoje, fora zonas de conflito, quase não se usa mais mapa em papel
Mesmo sendo um estudo que ganhou tanta atenção, como este artigo, ele tem limitações metodológicas sérias. São apenas 54 pessoas divididas em 3 grupos, 9 por condição, o que é muito pouco para sustentar alegações como “reprogramação cerebral”. O que o estudo mostrou foi apenas um padrão cerebral diferente ao escrever redações com apoio de IA, não dano permanente. Menor atividade cerebral ao usar uma ferramenta é como reduzir cálculo mental ao usar uma calculadora. Termos como “dano cognitivo” ou “prejuízo grave” também não aparecem de verdade no estudo. Medições de EEG de superfície não permitem inferir mudanças cerebrais profundas. Os próprios autores reconhecem essas limitações. E “83,3% não lembravam de uma única frase da própria redação” significa apenas 15 de 18 pessoas
Como exemplo do uso de IA no dia a dia, alguém fala de aprendizagem prática em soldagem, uso de multímetro, montagem de circuitos, sistemas de energia solar/bateria, construção de rede LoRa etc. Em todos os casos, a pessoa diz que aprende não só na teoria, mas experimentando diretamente na prática. Quando surge um problema, usa IA para entender a causa e, repetindo perguntas e testes várias vezes, chega a uma compreensão sólida dos princípios. Vídeos do YouTube não combinam com seu estilo, então IA baseada em texto funciona melhor para ela. Ela gosta de aprender errando de propósito e quebrando coisas. Está aplicando com bons resultados na eletrônica barata a mesma estratégia de tentativa e erro que funcionou em software
Como alguém que faz esse tipo de coisa na prática, fiquei curioso sobre por que escolher IA. Aprender por texto me parece uma das formas mais difíceis. Um vídeo bem feito mostra muito melhor o processo real e os critérios de sucesso ou fracasso. Dito isso, realmente está cada vez mais difícil encontrar vídeos bons
Antes do surgimento dos LLMs, eu também aprendi de forma parecida construindo sintetizadores analógicos. O ponto com o qual concordo é que eu consultava exatamente os mesmos materiais de texto na web que hoje o LLM consulta. Quando algo não funcionava, eu recorria ao equipamento real ou à documentação. Sempre existiu um caminho de aprendizado perfeitamente viável sem LLM, e ainda acho discutível se ele é realmente um método superior aos outros
Para aprender, o ritmo do trabalho físico real acaba ficando alinhado com a velocidade de aprendizado do cérebro. Loops de feedback rápidos demais, como no “vibe coding” em software, podem até atrapalhar o aprendizado verdadeiro. O cérebro passa a evitar o processo de aprender
Se você está usando um LLM como um aprendiz perguntando a um mestre, então não vejo problema algum
De forma semelhante, estou resolvendo material de estudo sem gabarito e, sempre que travo, peço feedback e dicas ao ChatGPT. Isso tem me ajudado muito
A reportagem parece quase ter sido escrita por IA, porque é difícil ler o artigo de verdade e chegar a essa conclusão. O experimento durou 4 meses, com menos de 30 minutos por vez, escrevendo apenas redações no formato SAT, e só parte dos participantes usou IA. Dizer que usar IA por uns 20 minutos, uma vez por mês, já deixou a pessoa visivelmente mais burra simplesmente não faz sentido. O que o estudo de fato mostrou foi que as pessoas têm menos apego e menos memória por resultados que não produziram diretamente. Isso também vale para trabalhos feitos por outras pessoas
Acho que a forma como se usa IA está muito ligada ao efeito sobre o aprendizado. No meu caso, acabo pensando muito mais profundamente do que o normal porque estou sempre questionando a IA e debatendo logicamente com ela. Por exemplo, quando encontro uma funcionalidade mal documentada, uso IA para entender o fluxo do código e continuo discutindo com ela várias opções, como melhorar nomenclatura, refatorar estrutura e documentar melhor. Como o LLM é muito mais rápido só na parte de busca de informação, eu apenas me esforço menos nessa etapa, mas penso mais profundamente no resto. É verdade que pulei algumas áreas, como
mermaid, mas, graças ao LLM, o trabalho de fato se tornou possível; sem ele, eu provavelmente estaria preso a tarefas medíocresEste artigo e as matérias sobre ele foram interpretados de forma tão sensacionalista que a equipe de pesquisa chegou a publicar um FAQ à parte. O autor do artigo vem repetindo que não quer que se usem expressões como “LLM deixa as pessoas burras”
Falar em “declínio cognitivo de longo prazo” apenas com base em medições técnicas de rede neural é exagero. Por exemplo, o resultado de que “83% dos usuários de LLM não conseguiam lembrar nem de uma única frase da redação que acabaram de escrever” é algo óbvio demais: texto que não passou pelas próprias mãos tende mesmo a não ficar na memória. Afinal, foi a IA que escreveu, então é natural que não tenha passado pelo pensamento da pessoa