Por que fatos sozinhos não mudam mentes — "a estrutura é a resposta"

• Como no caso da controvérsia heliocêntrica de Galileu, o poder social e os sistemas de crenças não mudam apenas com 'fatos' simples
• Igreja, poder e ideologia explicam e legitimam a realidade por meio de narrativas e conexões estruturais envolvendo Bíblia, cosmologia, arte e normas sociais
• A estrutura de crenças (grafo) é composta por nós centrais e conexões (arestas), de modo que, se apenas uma parte vacila, toda a visão de mundo pode ser abalada
• O centro da disputa não são os fatos, mas sim o funcionamento psicológico e social de atacar/defender nós e elos dentro do próprio arcabouço estrutural (grafo)
• Quanto mais fortes forem a resiliência estrutural, a coesão interna e a ressonância emocional, mais a crença se mantém; os fatos só passam a ter influência quando se integram ao arcabouço estrutural

---

Não são os fatos, e sim a estrutura, que determina a crença

• Quando Galileo Galilei propôs o heliocentrismo, a Igreja resistiu não apenas por ignorância ou superstição, mas para defender um sistema de crenças que sustentava a ordem social
  • Isso porque a cosmovisão geocêntrica funcionava como estrutura central da fé e da ordem social
• Nesse sistema de crenças, histórias, símbolos e doutrinas estavam organicamente conectados para legitimar autoridade e ordem
• Passagens bíblicas sustentavam a cosmovisão geocêntrica e se conectavam a uma estrutura hierárquica social e moral na qual o ser humano ocupava o centro do universo

• Essa estrutura não aparecia apenas em debates: ela se refletia fortemente em toda a visão de mundo, no calendário litúrgico, na arquitetura das catedrais, na arte e nas normas do cotidiano
• Desafiar um conceito não significa mexer só em uma ideia, mas em toda a sua rede completa e sua autoridade.
  • No momento em que se atinge o nó central (o geocentrismo), toda a estrutura fica em risco

Exemplo de estrutura de crenças (grafo)

• Ainda hoje, estruturas de crenças podem ser explicadas como um 'grafo' formado por conceitos (nós) e conexões (arestas)
• Por exemplo, as estruturas de "capitalismo orientado ao crescimento" e "sustentabilidade ecológica" possuem, cada uma, lógicas e redes de conexão diferentes
  • Growth-First Capitalism
    • inovação→lucro→retorno ao acionista→poder de compra→concorrência→inovação...
    • Um sistema em que cada ligação reforça as demais, com forte consistência interna e resiliência
  • Ecological Sustainability
    • crise climática→mudança de política→energia renovável→redução de emissões→resiliência comunitária
    • Uma estrutura de ciclo virtuoso por meio das conexões, que enfatiza a ligação entre bem-estar humano e saúde planetária, ação coletiva e resiliência
• As conexões entre nós (arestas) desse grafo são continuamente reforçadas por forças psicológicas
  • Quando entram em dissonância cognitiva, os cérebros humanos recorrem a raciocínio motivado e racionalização posterior para preservar a visão de mundo já existente
  • Por isso, estruturas de crença tendem a ser muito sólidas e resistentes à mudança

Ataque estrutural — abalo de nós e arestas

• A verdadeira 'guerra' entre sistemas de crenças concorrentes não está em argumentos lógicos, mas em tentativas de alterar a estrutura um do outro
• Busca-se influenciar a estrutura derrubando os nós centrais do adversário, enfraquecendo as conexões entre conceitos ou absorvendo seus elementos mais atraentes
• Com isso, vai além de uma simples troca de opiniões e ocorre um processo em que a própria estrutura de crenças é transformada
• Ataque ao nó central (Node Attack): um ataque concentrado a um único nó central pode enfraquecer todo o sistema de crenças
  • Ex.: se o nó "ameaça da mudança climática" for atacado, a motivação para mudanças de política enfraquece, tornando todo o sistema instável.
    • Se o ataque for bem-sucedido, os principais loops de feedback do sistema entram em colapso e a própria configuração corre risco de desintegração
• Ataque à aresta (Edge Attack): ao atacar a conexão (aresta) entre ideias, enfraquece-se indiretamente a lógica do sistema de crenças e seu poder de persuasão
  • Ex.: se for criticado o fato de "lucro para o acionista" realmente levar a aumento do poder de compra, enfraquece-se a alegação de prosperidade ampla do sistema capitalista
    • Se o ataque às arestas continuar, a legitimidade social do sistema desmorona e ele passa a ser mais facilmente absorvido por estruturas alternativas
• Além disso, sistemas de crenças usam várias estratégias: absorvem forças de estruturas concorrentes, evoluem por brechas e ganham resiliência por meio de autocorreção

Psicologia humana e estrutura de crenças

• Sistemas de crença (memes, ideologias etc.) só operam de fato dentro da estrutura cerebral das pessoas
• A estrutura de crenças é mantida e protegida pela arquitetura cognitiva humana e, às vezes, se entrelaça tão profundamente com a 'identidade pessoal' que o próprio desafio é sentido como um ataque individual
  • Não se mantém apenas pela lógica, mas de forma estável por mecanismos psicológicos automáticos do cérebro, como dissonância cognitiva e raciocínio motivado
• O cérebro filtra inconscientemente informações ameaçadoras e, ao se deparar com evidências contraditórias, tenta racionalizar para aliviar a dissonância cognitiva
• Isso explica por que estruturas de crença resistem com tanta robustez a ataques externos

Competição estrutural e casos reais

• Os debates sociais de hoje não giram em torno de fatos simples, mas de um choque entre modelos de crença mutuamente incompatíveis
• Cada lado possui sua própria estrutura de conexões, ideias centrais e sistema lógico de sustentação, e por isso não consegue aceitar facilmente a lógica do outro
• Quanto mais sólida for a rede de crenças de um grupo e quanto mais fortes forem suas conexões, maior sua resistência a ataques externos e maior seu poder de influência
• Por outro lado, se houver divisão interna ou enfraquecimento das conexões, a influência do grupo cai rapidamente
• Por isso, quando forças hostis provocam divisão interna, isso também afeta o equilíbrio geral de poder

Comportamento inautêntico coordenado (coordinated inauthentic behavior)

• Operação em redes sociais em que várias contas falsas colaboram para manipular a opinião pública
• Não se trata apenas de espalhar desinformação, mas de uma estratégia para enfraquecer sistematicamente as conexões centrais do grafo de crenças
• Por exemplo
  • A IRA russa abalou a estrutura de conexões sociais ao amplificar simultaneamente vozes opostas para aprofundar o conflito racial nos EUA
  • BLM vs. anti-BLM, prós e contras das vacinas, debate climático etc.: indução à divisão para enfraquecer conexões centrais e desestabilizar toda a estrutura
• Esses ataques em larga escala à rede colocam mais foco no enfraquecimento das conexões estruturais do que em desinformação unidirecional
  • Como no caso da Cambridge Analytica, técnicas de microtargeting e mensagens personalizadas podem mirar com precisão nós e arestas vulneráveis dentro da estrutura de crenças
  • Mais recentemente, com os LLMs (grandes modelos de linguagem), a escala e a agilidade dessa manipulação estrutural aumentaram de forma explosiva

Como proteger nossa estrutura de crenças

• Fact-checking, refutação e verdade sozinhos têm limites. Só quando se fortalece a 'estrutura', a 'coesão interna' e a 'capacidade de empatia emocional' é que um sistema de crenças ganha resiliência
• A verdade só sobrevive e se espalha de forma duradoura quando está dentro de um arcabouço estrutural em que as pessoas podem permanecer
  • Para impedir manipulação e divisão, é preciso narrativas duráveis, fortalecimento da consistência estrutural e da resiliência do próprio sistema de crenças, construção de pontes entre modelos e formação de narrativas que também ressoem emocionalmente
• Ao entender o mecanismo das crenças, qualquer pessoa pode deixar de ser alvo passivo e se tornar um projetista ativo de estruturas. Torna-se possível desenhar novos sistemas de crença mais sólidos, adaptáveis e abertos

Conclusão

• Não somos meros consumidores de informação; podemos nos tornar arquitetos que projetam a própria estrutura de crenças
• Com base nessa compreensão estrutural, projetar sistemas de crença resilientes e conectados é a resposta real para a era das guerras culturais e da manipulação da opinião pública

[kuthia]

Interessante. Textos como este sobre modelos mentais ou memes são sempre fascinantes.

[GN⁺]

Comentários no Hacker News

• Gostei deste post de blog. Tenho dois pensamentos. Primeiro, muitas vezes, mesmo quando há fatos contraditórios, isso não é um sinal para mudar uma crença. A menos que a crença seja tão fraca a ponto de ser abalada por um único fato, é muito raro um evento isolado ter impacto decisivo. Por exemplo, mesmo que eu saiba que alguns cientistas manipularam dados em artigos sobre mudança climática, considerando o vasto conjunto de evidências sobre o tema, esse fato por si só não é motivo para mudar minha crença sobre a mudança climática. No fim, só se acumula base suficiente para mudar uma crença quando se examina com amplitude a variedade de informações dos dois lados. Segundo, os “fatos” aos quais temos acesso hoje na prática não representam o contexto completo. Na era passada da mídia centrada em grandes empresas, ao menos os jornalistas tentavam transmitir de forma equilibrada os fatos principais; hoje, porém, os algoritmos fazem a curadoria das notícias de modo a induzir mais cliques e engajamento. Os produtores de conteúdo que fornecem esses “fatos” também costumam ter motivações ou vieses fortes. Tanto os algoritmos quanto os produtores quase não fazem esforço algum para oferecer informação equilibrada

  • Isso me lembra um conceito que li há muito tempo em um blog racionalista famoso: “ceticismo epistêmico racional” (rational epistemic skepticism). Talvez eu não esteja lembrando exatamente a expressão, mas é uma ideia de contexto parecido. Quando alguém é intelectualmente muito habilidoso ou estudou muito um assunto específico, as pessoas comuns às vezes têm a experiência de se sentir intimidadas por essa capacidade intelectual. Mas todos percebem, ainda que de forma implícita, que nem toda pessoa inteligente está sempre certa. Como pessoas inteligentes também têm opiniões variadas, todas não podem estar certas ao mesmo tempo. Então a pessoa comum desenvolve uma postura defensiva para que suas crenças não oscilem com facilidade, isto é, uma tendência a não se deixar persuadir facilmente. Essa postura defensiva é, na verdade, racional. Quando alguém apresenta um argumento perfeito, será que ele é realmente verdadeiro, ou será que há algum truque embutido? O segundo caso é mais comum

  • A melhor forma de mentir não é apresentar informação falsa, mas selecionar fatos de maneira favorável a si mesmo. Esse método também pode fazer alguém mentir, sem intenção, para si mesmo ou para os outros. Inúmeras matérias jornalísticas são exemplos disso

  • Acrescentando ao segundo ponto: os algoritmos de hoje têm uma estrutura tão fácil de manipular que países que querem impor narrativas, especialmente Russia e China, podem explorá-la à vontade. Nos últimos 8 anos, a forma de interferência eleitoral Russian mudou muito. Antes, exércitos de trolls fingiam ser americanos (ou poloneses, tchecos etc.) enquanto espalhavam propaganda russa. Esse método era relativamente fácil de detectar e bloquear, então não durava muito. Mais recentemente, houve uma mudança para uma estratégia no estilo chinês, com um “exército de goblins”, que já não se concentra em espalhar diretamente a mensagem, mas em perturbar algoritmos de redes sociais por meio de reações automatizadas — rolagem, upvotes, cliques em comentários, respostas com uso de LLM etc. Na prática, a ideia é apenas amplificar quando usuários americanos reais espalham mensagens favoráveis à Rússia ou prejudiciais aos EUA. Essa estratégia funciona por dois motivos: dá recompensa de dopamina a quem publica coisas estranhas ou odiosas, incentivando conteúdos cada vez mais provocativos, e faz com que usuários contrários percebam esse tipo de postagem como “popular”, o que os desanima. Referência: Russian internet outage and the online goblin army

• No famoso ensaio de CS Peirce, "The Fixation of Belief", ele explica por vários processos como formamos crenças e como elas podem ser abaladas. O ensaio pode ser lido aqui. Este post de blog também me parece próximo do que Peirce chamou de "a priori method". Primeiro se define uma estrutura de interpretação, em geral por razões estéticas ou emocionais, e depois a experiência é interpretada de acordo com essa estrutura. As conclusões produzidas ali se tornam crenças muito confortáveis para quem concorda com essa estrutura. Segundo Peirce, toda investigação começa com a surpresa. Às vezes ela é intencional, mas na maioria das vezes encontramos a surpresa sem querer. O problema do método a priori é que, no fim, ele se parece com “desenvolvimento de gosto”. Gostos sempre mudam com as modas, e filósofos acabam repetindo discussões sem fim. Como disse Sir Bacon, no fim é preciso passar ao verdadeiro pensamento indutivo

  • Isso me lembra um excelente ensaio ou post de blog que li antes. Dizia que um elemento essencial de uma boa apresentação é primeiro organizar aquilo que as pessoas já sabem e depois desenvolver um tema surpreendente que elas não previram. Precisa ser novo o bastante, sem parecer irreal demais. Quanto maior ou mais diverso o público, mais difícil fica causar esse tipo de surpresa

• Entendo a controvérsia entre Galileo e a Igreja como algo muito mais sutil do que normalmente se divulga. Não foi por causa de uma leitura literal da Bíblia, como a passagem de Joshua em que o sol para. No livro "Against Method", Paul Feyerabend argumenta, ao contrário, que a Catholic Church da época era mais racional dentro da metodologia científica clássica, isto é, avaliar as evidências para os dois modelos. O importante é que a hipótese de Galileo foi considerada racionalmente inferior ao modelo existente em comparação. Achei bastante interessante

  • O debate sobre Galileo e a Igreja costuma ser simplificado em excesso, mas na realidade existe um contexto muito complexo. Muito antes de Galileo, pessoas como Thomas Aquinas já aceitavam, com base em Aristotle, que a Terra era redonda. Na época de Galileo, a Catholic Church não era ignorante em relação à ciência moderna; ao contrário, participava ativamente da filosofia natural e da astronomia. O conflito real dizia respeito a modelos concorrentes e aos critérios de evidência para que um modelo fosse aceito. Se o autor deste texto começou a escrever sem conhecer esse pano de fundo, a confiabilidade do texto inteiro fica em dúvida

  • Como ex-historiador, digo que o episódio de Galileo e da Igreja é de fato muito complexo. Ao longo de várias gerações, diferentes pessoas distorceram e reinterpretaram o caso para servir à sua própria retórica. Feyerabend também usa esse episódio para sua filosofia da ciência bastante original, mas sua objetividade é discutível. Se houver interesse, a biografia de Galileo escrita por John Heilbron oferece uma visão equilibrada

  • Vi recentemente uma palestra sobre esse tema e achei muito interessante. O modelo geocêntrico usado na Europa da época tinha sido refinado de forma extremamente sofisticada e era, na prática, muito preciso. Mesmo com a mudança para o heliocentrismo, por um bom tempo quase não havia ganho concreto. Pior: o trabalho de Galileo tinha muitos erros e problemas matemáticos ainda por resolver. No fim, aquele período era uma situação em que se assumia uma enorme dívida técnica e um grande custo de transição, com pouquíssimos benefícios diretos em troca

  • Tenho curiosidade sobre como Feyerabend explica o motivo de Galileo ter sido colocado em prisão domiciliar. Se era apenas um debate racional entre modelos concorrentes, fica difícil entender por que seria necessário reprimi-lo de forma tão extrema

  • Como podcast em série sobre Galileo, recomendo o Opinionated History of Mathematics, de Viktor Blasjo: Opinionated History of Mathematics

• Senti que este texto tratou de forma realmente interessante um tema que é difícil para mim abordar de modo analítico. Lembrei da história da filha do fundador do Stormfront (o primeiro fórum supremacista branco), que entrou na universidade e, ao jantar repetidamente com estudantes judeus, teve suas crenças desafiadas uma a uma, até abandonar gradualmente por completo sua visão racista. Se até alguém que foi doutrinado pela família por quase 20 anos pode mudar, isso dá esperança de que qualquer pessoa possa mudar de crença. Ao mesmo tempo, é frustrante porque, na prática, esse método é ineficiente e difícil de aplicar em larga escala. É ainda mais difícil aplicá-lo a alguém que continua exposto às mesmas fontes de informação de antes

  • Também considero importante o fato de que essa pessoa, desde o início, esteve disposta a se sentar e conversar com eles

  • No futuro, chatbots de IA podem se tornar parte de um ritual de purificação dessas crenças

  • Acho que isso não passa de autoindulgência. É, na verdade, muito comum que filhos abandonem rapidamente as crenças da família depois de entrar na universidade. Especialmente num sistema de crenças impopular como o supremacismo branco, renunciar a isso para fazer novos amigos na universidade é quase o esperado. Mesmo depois disso, é bem possível que essa estudante, como muitos de seus colegas, ainda mantenha algumas crenças que seriam controversas para alguém. Em essência, ela apenas saiu do ambiente familiar

  • Também me lembro de que foi no meu primeiro ano de universidade que, pela primeira vez, estabeleci minha própria visão de mundo. Antes disso eu tinha pensamentos diversos sobre a existência de Deus e sobre a sociedade, mas na universidade me tornei ateu. Curiosamente, ao mesmo tempo, meu irmão gêmeo se tornou um cristão devoto. Ele se integrou bem aos grupos sociais e concluiu a universidade, enquanto eu abandonei o curso no meio do caminho. Depois, entrando no fim dos 20 e nos 30 anos, passei a ter a convicção de que nosso governo não é confiável. Ainda mantenho a crença de que o 9/11 foi um trabalho interno. Eu estava em Nova York naquela época, mas não havia grande ligação entre o acidente e minhas experiências cotidianas, como trabalhar em documentos de contrato de locação das Torres Gêmeas, então tudo passou batido. Passei a considerar mais importante do que antes como a estrutura das crenças se relaciona com a sociedade ou o grupo ao qual se pertence. Quanto maior a sensação de alienação em relação à sociedade, mais fácil fica duvidar das autoridades existentes. Em disputas entre grupos, é fácil achar que o outro grupo é mau e está errado, e essa simplificação cria distorções desnecessárias na estrutura de crenças e fortalece crenças perigosas. No fim, os fatores fundamentais por trás da divisão entre grupos são elementos estruturais como geografia, economia e etnia. Fico me perguntando se um sistema de crenças mais sofisticado e preciso poderia resolver a fragmentação social. Ou se a estrutura social e as redes são o que realmente determinam o núcleo da identidade. Às vezes penso se os humanos não seriam por natureza algo próximo de uma “colônia de mamíferos”, travando combates ferozes sempre que os recursos escasseiam. Se cada lado tentar monopolizar recursos importantes, então não só uma competição justa se torna impossível, como também pode surgir a ideia de que não precisamos ser os únicos a agir corretamente quando o outro lado não segue as regras, não é honesto e até rejeita qualquer nuance no debate. No fim, a pequena esperança é que, com mais abundância de recursos, as relações civilizadas também possam melhorar na mesma medida

• Para dizer uma coisa ao autor deste texto: gostei da ideia do blog, mas houve dois pontos que me incomodaram durante a leitura. O primeiro é que o uso de citações em bloco (blockquote) pareceu confuso e desnecessário, especialmente quando repetia a frase imediatamente anterior. O segundo é que o gráfico que se movia enquanto eu rolava a tela no celular foi incômodo. Acho que seria melhor usar uma imagem estática menor, ou talvez uma cor de fundo separada

  • Agradeço muito esse feedback. Com certeza vou tentar incorporar tudo isso antes do próximo texto

  • Além disso, o texto dentro da caixa branca do gráfico era ilegível. A escolha de cores deixou a desejar

• Gosto de alguns dos conceitos centrais deste texto, mas a distinção entre node/edge parece vaga demais. Por exemplo, o nó “Climate Change Threat” é uma “afirmação”, mas “Efficiency” é uma afirmação? É possível contestar a própria existência da eficiência? Se, em vez disso, alguém contestar a “utilidade” da eficiência, isso não seria um ataque à aresta? Assim, os exemplos de nós apresentados no texto não me parecem estar no mesmo nível e soam heterogêneos demais. Por isso fica difícil internalizar a ideia e minha motivação para continuar lendo cai

  • As arestas são rotuladas com verbos transitivos, e a seta vai do sujeito do verbo ao objeto. Os nós são rotulados com substantivos. Se um substantivo for convertido em verbo, ele pode passar de nó para aresta, ou vice-versa. Como exemplo, no primeiro diagrama, "Innovation" poderia virar uma aresta, innovates, entre um nó "Capitalist" e um nó "Improvement". No fim, a fronteira entre nós e arestas é difusa

• Recomendo muito "The Righteous Mind", de Jonathan Haidt. Esse livro foi responsável por mudar profundamente meu pensamento sobre moralidade e política sob uma perspectiva social e psicológica. Algumas das ideias são as seguintes: as pessoas são instintivamente coletivistas e querem ser aceitas. Fazemos primeiro julgamentos emocionais imediatos e depois procuramos razões para racionalizar essa escolha. A direita é mais coesa do que a esquerda porque tem valores compartilhados fortes e definições consistentes para os 5 “receptores morais” de que Haidt fala — cuidado, justiça, lealdade, autoridade e santidade. A esquerda, por outro lado, tende a trocar isso pela manutenção da diversidade

  • Eu também li o livro de Haidt com muito interesse, mas na verdade senti que cada parte parecia quase um livro diferente. Quero ler as outras obras dele também. Sobre a discussão de esquerda e direita, um ponto curioso que ouvi recentemente é que a esquerda se move por coalizão, e a direita por consenso (tomando a política dos EUA como referência). Segundo a pesquisa de Haidt, a esquerda se concentra em um ou dois dos cinco grandes receptores morais, enquanto a direita se preocupa de maneira relativamente equilibrada com os cinco. Não sei bem como essas duas características se conectam, mas me faz pensar que talvez haja uma estrutura em que uma fortaleça fortemente a outra. Indo além, fico curioso se isso se aplicaria de forma semelhante ao sistema político como um todo

  • Sinto que a afirmação de que a direita é politicamente mais coesa do que a esquerda precisa de evidência clara. Pode ser apenas uma percepção distorcida, limitada a casos recentes. Mesmo nos EUA, a direita também é uma coalizão de vários grupos com interesses distintos. Por exemplo, ainda agora alguns apoiadores de Trump estão insatisfeitos com o sigilo do caso Epstein, enquanto grupos que querem corte de impostos tentam desestimular esses protestos. Dentro da direita também há mais conflito do que coesão

• Quando percebi que, entre nós e arestas, pode existir um número infinito de nós, a teoria começou a ficar complexa demais na minha cabeça. Entendo a estrutura geral do colapso de ideias, mas na prática me parece difícil identificar quantos nós centrais realmente existem entre as ideias, então não vejo aplicação fácil no mundo real. E, como sempre parece muito mais simples mapear ao contrário apenas o processo de colapso de um item, no fim é difícil evitar o survivorship bias

• Na prática, muitas pessoas também não têm consciência clara e constante da estrutura completa das próprias crenças. Em 99% dos temas importantes, tudo é muito mais nebuloso do que nesta figura. Ainda assim, achei essa perspectiva em si bastante original. Um fator mais importante do que a estrutura das crenças é em quem você realmente confia. Só pessoas em quem confio me parecem ter autoridade para preencher as lacunas das minhas crenças. Como conquistar confiança leva muito tempo, apresentar fatos conflitantes por si só não muda facilmente uma convicção. O motivo importante não é a estrutura da rede, o grafo de crenças, mas “eu não confio em você”. Escrevi recentemente algo parecido sobre isso: No one reads page 28

• Acho que devemos nos afastar com cuidado da premissa de arguments are soldiers, segundo a qual “fatos” são usados em debates principalmente como ferramentas para persuadir o outro lado. Investigar o que está acontecendo no mundo é algo intrinsicamente curioso e valioso, independentemente do meu temperamento ou da minha ideologia. Mesmo quando difere da minha opinião, se há uma evidência interessante, a própria matéria já tem valor. Ainda que fatos não mudem facilmente a cabeça das outras pessoas, acho que devemos apoiar quem trabalha coletando e reportando fatos