Por que há tantos cultos na comunidade racionalista?

• Pequenos e estranhos grupos de crença dentro da comunidade racionalista surgiram repetidamente, e alguns estiveram ligados a casos reais de violência
• Esse fenômeno decorre do fato de que o conteúdo que enfatiza métodos de pensamento racional (Sequences) promete uma técnica para “pensar melhor”, mas na prática não consegue cumprir essa promessa
• Pessoas em posição vulnerável têm maior probabilidade de se envolver com grupos nocivos na comunidade e, muitas vezes, ficam isoladas do mundo externo, o que dificulta sair deles
• A ligação entre crenças internas e ações do grupo, a atitude de levar ideias muito a sério e o isolamento social podem provocar disfunções graves
• É difícil impedir completamente o surgimento de cultos racionalistas, mas manter conexão com a realidade externa, diversidade social e estruturas organizacionais saudáveis pode reduzir os danos

---

Introdução

• A comunidade racionalista é um conjunto de pessoas que se formou a partir da série de posts de blog “Sequences”, escrita pelo pesquisador de IA Eliezer Yudkowsky
• A série trata de como pensar de forma racional, e seria de se esperar que os membros da comunidade fossem exemplos de pensamento crítico e ceticismo
• No entanto, na prática surgiram dentro da comunidade grupos estranhos e nocivos, como pequenos grupos bizarros que diziam se comunicar com demônios, casos de violência e grupos que causavam trauma
• Entre os casos mais conhecidos estão os Zizians, um grupo vegano, anarquista e transumanista, além de Black Lotus e Leverage Research
• O autor faz parte da comunidade e, por meio de entrevistas aprofundadas, obteve um nível inédito de acesso e franqueza

O problema dos jovens racionalistas

• A comunidade racionalista, no geral, funciona bem, mas alguns grupos apresentam uma estrutura profundamente disfuncional

• As “Sequences” prometem “a arte de pensar melhor” e um futuro extraordinário, mas, na realidade, essa promessa é impossível de cumprir

• Muitos entrevistados apontam que esse tipo de conteúdo fornece a matéria-prima para cultos

• Eliezer Yudkowsky não se mostra muito interessado em construir um senso de coletividade, mas pessoas que chegam de fora frequentemente desejam transformação conduzida por uma autoridade e uma missão heroica

• Em alguns grupos, a disfunção vem do líder (por exemplo, Brent Dill, da Black Lotus); em outros, dinâmicas tóxicas surgem espontaneamente de baixo para cima (como na Leverage Research)

• Pessoas vulneráveis tendem a se tornar presas fáceis de grupos isolados e também têm mais dificuldade para sair quando a situação se deteriora

• No início, a comunidade ajudava membros mais imaturos, mas aos poucos as pessoas bem-sucedidas passaram a retirar esse apoio

• Recém-chegados sem suporte se tornam alvos mais fáceis de grupos internos nocivos

A gravidade das crenças

• Dentro de grupos disfuncionais, mais do que isolamento social e manipulação por parte do líder, o fator central são as próprias crenças

• Por exemplo, no caso dos Zizians, uma teoria da decisão radical (a crença de que ameaças devem ser respondidas de forma incondicional) se ligava diretamente ao comportamento real

• A Leverage Research tentava compreender a estrutura interna dos membros e resolver seus problemas por meio de uma teoria unificada da psicologia chamada “Connection Theory”

• Ao tentar ajustar o próprio comportamento a esse tipo de modelo psicológico simplificado, chegaram até a provocar problemas mentais

• Brent Dill levava os membros a interpretar o mundo e os outros de forma cínica, e isso funcionava como desconfiança coletiva e como o dano mais fundamental do grupo

• Quando racionalistas rejeitam confiar em especialistas e tentam pensar por conta própria, surge paradoxalmente o risco de delegar o próprio pensamento a líderes carismáticos

• “Levar ideias a sério” e “ter agência” são virtudes em si, mas, quando mal aplicadas, podem levar a comportamentos perigosos e fora das normas

Cautela com a psicologia

• Em grupos problemáticos, tornou-se rotina discutir por longos períodos e com alta intensidade filosofia, psicologia e relações internas do grupo

• Em contraste, em grupos saudáveis da Bay Area, o foco tendia a estar em atividades externas ou realizações concretas (programação, jogos etc.)

• Também houve casos em que membros da Black Lotus ganharam confiança ao assumir papéis realmente importantes

• Na Leverage Research, os subgrupos que trabalhavam em projetos concretos (como desenvolvimento de criptomoedas) também eram mais saudáveis

• O excesso de discussão emocional interna e análise psicológica aprofunda a disfunção, a ansiedade, o isolamento e o rompimento com a realidade

• Quando um grupo sem objetivos externos concretos prolonga indefinidamente os debates internos, dinâmicas nocivas se intensificam

• Se longas explorações de psicologia de grupo e emoções fazem parte do cotidiano, isso é sinal de que algo está errado, mesmo que não se trate de um culto

Os riscos do consequencialismo

• Levar uma visão de mundo consequencialista muito a sério pode justificar devoção excessiva ao líder e sacrifício pessoal
• O frequente discurso sobre AGI (risco existencial ligado à inteligência artificial) na comunidade racionalista gera tensão e obsessão dentro dos grupos
• Pessoas que não têm capacidade de contribuir para a IA podem acabar se apegando a projetos alternativos ou pequenos grupos, tornando-se mais vulneráveis à disfunção
• Uma grande causa moral (como uma crise da humanidade) pode fazer até assuntos cotidianos receberem significado excessivo
• Na prática, superar crises é uma sequência de tarefas simples e repetitivas, mas muitos perseguem fantasias heroicas que não correspondem a isso

Cautela com o isolamento

• Isolamento social, conformismo interno e rompimento com o mundo exterior são fatores centrais para o agravamento da disfunção
• Um dos sinais mais claros de que um grupo pode ser um culto é quando os membros deixam de circular fora de casa ou do escritório
• Uma realidade definida apenas internamente, a exclusão de críticos e a vigilância mútua levam ao pensamento de grupo e ao excesso de crença
• O padrão de morar na mesma casa e deixar que o grupo forneça todas as necessidades enfraquece a independência e a capacidade de atuar no mundo externo
• O secretismo, em que nem mesmo os grupos internos compartilham informações entre si, também é um problema, e a combinação de denúncias e falta de comunicação cria um ciclo vicioso

Conclusão e sugestões

• As disfunções da comunidade racionalista não são necessariamente mais graves do que em outros lugares; elas apenas aparecem de um jeito “mais interessante”
• A tendência característica da comunidade de “transformar crenças em ações” e “viver de forma diferente da sociedade em geral” é uma das causas, mas não pode ser eliminada por completo
• Em nível individual e comunitário, estratégias como as abaixo podem ajudar a reduzir a disfunção

Recomendações para indivíduos

1. Se conversas longas sobre relações humanas e emoções dentro do grupo se tornam constantes, isso é um sinal de alerta
2. Buscar atividades com critérios objetivos de realização e criar pontos de contato com a realidade externa
3. Manter relações com grupos sociais diversos
4. Separar trabalho, moradia e tratamento/terapia
5. Mesmo que todos no grupo acreditem em algo, buscar validação de pessoas de fora ou verificação independente
6. Se uma longa cadeia de lógica abstrata acaba concluindo que “é aceitável ferir outras pessoas” ou que “tudo é menos importante do que isso”, é preciso desconfiar
7. Participar com cautela de grupos muito exigentes quando você não tem outras opções

Recomendações para a comunidade

• Manter vínculos com membros que entraram em grupos disfuncionais e oferecer comunicação normal em vez de apenas condenação
• Dar aos novos membros expectativas realistas e pensar em formas de ampliar o apoio prático
• Ser honesto sobre como é difícil entrar em áreas como segurança em IA e não desvalorizar pessoas que não conseguem contribuir diretamente
• Incentivar discussões sobre “linhas vermelhas éticas” (coisas que claramente não se deve fazer)