- Participei recentemente da conferência racionalista LessOnline e encontrei pessoalmente conhecidos de longa data da internet para interagir com eles
- O mais marcante não foram as sessões principais do evento, mas sim as conversas profundas e a comunicação entre os participantes
- O autor aponta como principais diferenças em relação à comunidade racionalista a obsessão com os riscos da IA, certas características culturais e uma atmosfera de culto
- Com o passar do tempo, o amadurecimento da comunidade, a ampliação da diversidade e sua transformação em algo mais familiar influenciaram fortemente sua mudança de percepção
- No fim, passou a reconhecer seu sentimento de pertencimento à comunidade com base em seus próprios critérios, e não no olhar dos outros
Experiência na conferência racionalista LessOnline
- Recentemente participei da conferência de blogs racionalistas chamada LessOnline e reencontrei conhecidos de longa data como Scott Alexander, Eliezer Yudkowsky, Zvi Mowshowitz, Sarah Constantin e Carl Feynman
- Fiquei feliz em encontrar pessoalmente pela primeira vez muitas pessoas com quem só tinha contato offline
- O local do evento, Lighthaven, é um espaço singular, com estrutura labiríntica e jardins, visto como uma nova “utopia nerd” em Berkeley
- Participei de uma conversa com Nate Soares sobre a Orthogonality Thesis, além de conduzir uma sessão de perguntas e respostas sobre computação quântica e ciência da computação teórica
Conversas e clima da conferência
- O que mais ficou na memória, mais do que as sessões oficiais, foram as conversas dinâmicas e animadas que aconteciam por toda parte ao longo do dia entre centenas de pessoas
- A organização, desde o início, incentivou ativamente conversas em pequenos grupos de discussão, colocando ênfase na troca coletiva de ideias
- Levar horas para ir de um prédio a outro era normal, porque todos participavam ativamente das conversas
- Eu era frequentemente parado com cumprimentos do tipo: “Você é o Scott Aaronson?”
Identidade racionalista e motivos do estranhamento
- Durante anos, apesar de ter interesses e perspectivas parecidos com os dos racionalistas, eu não me apresentava ativamente como “racionalista” por certos motivos
- O primeiro deles era a sensação de distância em relação à obsessão com a ideia de que a IA alcançará capacidades sobre-humanas e mudará a condição humana
- Antes eu era cético em relação a esse tema, mas retirei minhas objeções diante do rápido avanço recente da IA
- Hoje, eu mesmo contribuo em parte para o debate quente sobre AI alignment
- O segundo motivo era cultural
- A cultura de organizações e casas coletivas criadas diretamente por jovens na faixa dos 20 anos, fazendo vários experimentos, contrastava com minha vida como professor estabelecido
- Mas agora a comunidade também mostra uma mudança mais centrada na família, com casamentos, filhos e crianças correndo por ali
- Os racionalistas têm filhos influenciados por livros como Selfish Reasons to Have More Kids ou por motivações mais tradicionais, pensando em um mundo melhor para a próxima geração
Características da comunidade e visão sobre mal-entendidos
- No passado, mantive certa distância porque em alguns ambientes havia uma sensação de culto (com Eliezer como uma figura quase de guru)
- O próprio Eliezer agora parece mais disposto a passar o bastão para uma nova geração, e a comunidade vem se diversificando gradualmente
- Um centro intelectual representativo é o blog de Scott Alexander, junto com o surgimento de vários novos líderes
- Mas, pela experiência real, essa comunidade está mais próxima de uma rede de ideias e paixão do que de um “grupo de crentes”
- Há discussões práticas e francas sobre temas variados, como IA, relacionamentos e criação de filhos
- Por exemplo, em um encontro liderado por Jacob Falkovich, homens discutiram namoro e compreensão das mulheres, e Gretta Duleba conduziu uma sessão sobre conflitos em relacionamentos
- Em contrapartida, diante de críticas externas como “os racionalistas são de fato de direita ou causam algum tipo de dano?”, na prática o que predomina são posições moderadas de apoio aos democratas e discussões voltadas ao bem público
Mudança no sentimento de pertencimento e autoimagem em relação à comunidade
- A mudança mais importante foi que deixei de me preocupar tanto com o olhar dos outros e passei a sentir, por mim mesmo, que a comunidade tem significado para mim
- Antes eu me sentia ameaçado por críticas externas como RationalWiki, SneerClub e matérias do NYT, mas ao ver de perto, nesta edição da LessOnline, a prosperidade e a vitalidade da comunidade, seu espaço físico real e o surgimento da próxima geração de membros, fiquei profundamente impressionado
- Em vez de temer a forma como sou visto de fora, passei a aceitar essa identidade convivendo com as pessoas que me reconhecem — família, academia, comunidade e leitores do blog
Conclusão
- Continuo, como antes, mantendo várias identidades: cientista da computação, acadêmico, judeu progressista, blogueiro e outras
- A comunidade racionalista oferece debates pragmáticos e um sentimento real de pertencimento em temas amplos como IA, criação de filhos e relacionamentos
- O cinismo e as críticas externas diferem da realidade; o texto reafirma o crescimento contínuo da comunidade, seu significado e a satisfação pessoal que ela proporciona
Outros avisos
- As respostas aos comentários podem demorar um pouco (estou viajando para as Galápagos com minha filha)
- Participei de uma sessão de filosofia e ciência da computação teórica na UT Austin (vídeo no YouTube já disponível)
- Alon Rosen pediu indicações para um novo prêmio de ciência da computação teórica (em memória de Luca Trevisan)
- As inscrições para a sessão online de pôsteres da STOC'2025 ficam abertas até 12 de junho, e estarei presencialmente em Praga como plenary
1 comentários
Comentário no Hacker News
Ao ler este texto, passei a pensar mais a fundo por que esse movimento me causa uma sensação incômoda
Há uma tensão essencial entre a postura de ser “racional”, a tentativa de desenvolver a lógica a partir de “primeiros princípios” e a atmosfera de absolutismo presente nessa comunidade
Eles sempre parecem pessoas confiantes demais em si mesmas
Quase não se vê a humildade do tipo “penso assim, mas talvez não tenha considerado todos os ângulos e eu possa estar errado”
É uma característica de gente que acha vergonhoso não ter opinião sobre um tema ou dizer “não sei”
Antes da era da IA, esse nível de inclinação talvez fosse tolerável, mas hoje, na forma como se empolgam como se o mundo fosse acabar, essa falta de humildade ficou ainda mais escancarada
É preciso reconhecer que talvez não estejamos entendendo corretamente o impacto da IA
Na prática, talvez nem seja tão especial assim e possa ser mais entediante do que o esperado
Eles se parecem com o grupo de "Effective Altruism"
Ficam tão imersos na lógica pura que não percebem que as premissas iniciais são artificiais, chegam a conclusões estranhas e depois ficam presos nelas
Às vezes agem com arrogância por causa dessa atitude de achar que são superiores só por causa da lógica
Esse tipo de modo de pensar pode capturar alguém por um tempo na adolescência ou nos 20 e poucos anos, mas, quando há muito dinheiro e a internet por trás, pode se prolongar por muito tempo
Também foram essas pessoas que começaram a colocar nos blogs frases como "<i>epistemic status: mostly speculation</i>"
Escrevem ensaios sobre os riscos da autoconfiança, medem com que frequência suas previsões erram e mantêm publicamente listas de "coisas em que eu estava errado"
Dá vontade de perguntar se não estamos generalizando demais esse grupo inteiro
Sempre achei que o fato de singularitarianos se preocuparem demais com o problema de alinhamento de IA funciona, na prática, como uma cortina de fumaça que desvia a atenção dos riscos mais concretos da IA, como viés algorítmico, lavagem de políticas, consumo de energia e aceleração da concentração de riqueza
Em vez de resolver problemas reais do presente, enfatizam apenas problemas hipotéticos de um futuro distante, o que leva ao longtermism
O blog de Scott Alexander (Astral Codex X) é cheio de dúvida constante e autorreflexão
Ele inclusive publica uma lista dos próprios erros (https://www.astralcodexten.com/p/mistakes)
Para mim, esse blog é o único ponto de contato com a “comunidade racionalista”, e nunca tive a impressão de arrogância
Na verdade, é o oposto
Tenho a sensação de que o conceito de “racional” acaba sendo uma ferramenta para criar uma atmosfera de validação mútua, em que a pessoa e os que estão ao redor produzem e inalarem o próprio gás metano
Eu também achava divertido ser chamado de gênio em Stanford, mas às vezes penso que pode ser mais significativo ir para o interior, mexer na terra e fazer algum bem concreto
A lógica é uma ferramenta extraordinária, dos filósofos gregos aos computadores modernos
Mas o problema central do racionalismo puro é que ele precisa examinar corretamente os “primeiros princípios” dessa lógica
Se os princípios estiverem errados ou se a complexidade for omitida, a lógica pode acabar levando na direção errada
Por exemplo, Aristóteles era um grande lógico, mas chegou a muitas conclusões erradas
Um exemplo de ignorar a complexidade é o fato de que a seleção natural surgiu de uma análise indutiva — não veio de primeiros princípios, mas porque a realidade concreta era complexa demais
Não estou dizendo que devemos ignorar a lógica, e sim enfatizando que devemos manter sempre uma “humildade provisória”
E sou fã do Scott Aaronson
(link sobre por que Aristóteles estava errado)
(origem indutiva da seleção natural)
Os “racionalistas” discutidos aqui não são racionalistas cartesianos, e sim empiristas bayesianos
A probabilidade bayesiana é uma extensão contínua em números reais da lógica booleana que Aristóteles deixou passar
Parece que os chamam de “racionalistas” por causa do ideal econômico do “agente bayesiano racional”
Dito isso, eles também têm o famoso slogan de que “o universo não pode ser simplesmente inferido como uma distribuição conjunta de probabilidade condicional”
Na prática, eles sabem muito bem que até AIXI é incomputável e que os problemas do mundo real são teoricamente extremamente difíceis
A lógica estuda a “verdade” e a “demonstrabilidade”
No ideal, as duas coincidem, mas, no mundo real, há muitos sistemas realmente complexos em que algo pode ser “verdadeiro” e “indemonstrável”, ou o contrário
Por isso, o discernimento também importa
Quando ouço dentro de mim algo como uma ressonância da verdade, costumo investigar mais a fundo, mas sempre tento não esquecer a autodesconfiança
No fim, o pensamento é sedutor, mas também pode virar obstáculo — é importante aceitar que ele pode ser a “pedra no caminho” necessária para chegar a uma espécie de perfeição inconsciente
Quero defender Aristóteles um pouco
Embora sua lógica e sua metafísica fossem incompletas, aquilo foi uma tentativa sem precedentes para a época, e sua comunidade não ignorava a pesquisa empírica nem mesmo na biologia
Acho que o maior problema foi o excesso de reverência das gerações posteriores
Concordo muito com a expressão “humildade provisória”
Espero que ela vire um meme
Defendo que precisamos aumentar o pH (potencial de humildade)
Lógica é apenas uma “ferramenta”
Não é uma lança mágica que leva à verdade absoluta
Dependendo da situação, pode ser adequada ou não, então o negócio é usar a ferramenta com tranquilidade
Estou lendo agora "Rationality: from AI to zombies", do Yudkowsky
Na verdade, como esse livro é uma coletânea de posts de blog, ele passa uma sensação forte de repetição, então no passado eu li umas 50 partes e desisti
Desta vez, como fiquei mais interessado no tema, estou lendo com bastante gosto
Acho que há momentos em que Yudkowsky realmente mostra insights profundos
Também há muitas ideias úteis para o pensamento cotidiano, como 'Belief in Belief', 'Emergence' e 'Generalizing from fiction'
Antes, eu achava que muitas discussões ficavam só na superfície ou viravam briga por diferença semântica, mas na prática muitas disputas nascem apenas porque as pessoas interpretam as palavras de forma diferente
Foi muito útil ter passado a perceber essas armadilhas em tempo real
Recomendo tentar
A atmosfera dentro da comunidade da racionalidade pode parecer estranha, mas as ferramentas de pensamento descritas nessa literatura têm muito valor
Só que há um ponto muito importante: no momento em que você começa a achar que, por ser “racionalista”, está mais certo do que os outros, você já fracassou como racionalista
É muito fácil cometer esse erro e, para usar bem as ferramentas do pensamento racional, você precisa se tornar ainda mais humilde do que antes
Em vez de dizer com frequência “estou certo”, um verdadeiro racionalista deveria dizer mais vezes “ah, será que estou errado?”
Acho que existe um fenômeno em que pessoas de STEM pouco familiarizadas com filosofia, literatura e história ficam excessivamente impressionadas ao encontrar pela primeira vez conceitos muito básicos dessas áreas
Em vez de Yudkowsky estar descobrindo algo realmente original, muitas vezes é o efeito de entrar em contato de forma nova com temas discutidos há milhares de anos
Esse tipo de disputa verbal é o fenômeno que Wittgenstein chamou de “jogo de linguagem”
Se você quer entender o argumento central sobre os riscos da IA, é muito mais eficiente ler a parte inicial de <i>Superintelligence</i>, de Nick Bostrom, do que o livro do Yudkowsky
Eu sempre gostei do Scott Aaronson e respeitava o trabalho dele
Mas, depois de ler neste texto sobre as pessoas reunidas em 'Galt's Gulch', pensei: “ah, então agora ele também virou um rinoceronte”
(link para a peça Rinoceronte)
Brincando, a diferença entre um 'rationalist' e um 'rationalizer' é justamente o incentivo
Entre os racionalistas famosos, eu achava que Scott Aaronson era um dos mais racionais
Também é engraçado que ele mesmo não percebeu que era racionalista até Scott Siskind dizer isso a ele
Queria dar upvote em quem apresentou a peça 'Rhinoceros'
É muito interessante, eu não conhecia, e acho que valeria até um post no topo
Como alguém que gosta tanto da comunidade Rationalist quanto da comunidade Rust, acho interessante como o Hacker News trata as duas de forma parecida
O desprezo, a falta de curiosidade e a violência das generalizações categóricas sempre me chocam
Acho que os comentários recentes no Hacker News são ainda mais significativos porque muitos vêm de pessoas que passaram anos dentro da comunidade racionalista
Eu também passei bastante tempo com amigos em LessWrong, SSC etc., lendo inúmeros blogs e textos
Mas sempre que eu tentava escrever alguma coisa, isso era descartado com a ideia de que “você é de fora, então não entende”
Gostam de criticar outros grupos, mas, quando o próprio grupo é desafiado, ficam defensivos
Tanto a comunidade Rationalist quanto a comunidade Rust são muito ativas no sentido de realmente produzir coisas
Mas é muito mais fácil para quem não faz nada criticar a produção alheia
Na internet, aparece mais facilmente esse impulso de desgostar e odiar por medo de ficar para trás ou em desvantagem em relação ao ritmo dos outros
Acho que o anonimato e a distância da internet intensificam ainda mais essa psicologia
Eu achava que o Hacker News gostava de Rust
Eu mesmo conheci Rust aqui e aprendi Rust
Se fosse procurar fãs de Rust, acho que procuraria no HN
Pelo que vi, não é a comunidade Rust que parece defensiva no Hacker News, e sim as comunidades de outras linguagens
Se você entrar em threads sobre Zig, Odin ou C++, sempre surge uma discussão sobre Rust ser melhor
(exemplo real)
Fiquei surpreso ao ouvir que a comunidade Rust é criticada aqui
Na prática, parece que Go levou mais críticas por ter mostrado arrogância ao rejeitar a introdução de genéricos
Pessoalmente, a própria ideia de “comunidade de programação” não me convence muito
Reconheço a paixão, mas aconselho as pessoas a relaxarem mais, fazerem terapia e tentarem namorar
O que está em discussão aqui é a “comunidade racionalista” do link https://en.wikipedia.org/wiki/Rationalist_community
Só confirmando que é claramente isso, e não https://en.wikipedia.org/wiki/Rationalism
Todo mundo usa o nome errado
O nome real do movimento é rationality, ou rationality no estilo LessWrong
É diferente do rationalism filosófico clássico
Rationality está mais próxima do empirismo
Como as palavras são parecidas demais, essa disputa de nomenclatura é tão difícil quanto a discussão sobre “hacker”
Tenho lido aqui e ali comunidades como Lightcone e LessWrong, mas ainda não entendo muito bem o que exatamente esse pessoal “faz”
Já fui a encontros porque me interessava por uma mulher que era muito envolvida com effective altruism/rationalism
Meu temperamento contrarian me fez sentir rejeição, e só anos depois percebi que a atmosfera era bastante sectária
Acho até que foi sorte meu lado de ateu edgy e contestador não ter combinado com eles
Esse texto inteiro pareceu uma grande aventura
A parte da “ameaça” ontológica do Cade Metz foi especialmente divertida
Mas, no fim, para citar o grande sábio de Chicago: cair em “-ismos” é complicado
O importante é confiar em si mesmo, sem ficar preso a correntes de pensamento
Referência ao John Lennon dizendo “não acredito nos Beatles, só acredito em mim”
Afinal, seja eu uma morsa ou qualquer outra coisa, continuo do mesmo jeito pegando carona nos outros
Acho interessante essa atenção ao elemento de ameaça em Cade Metz
Os racionalistas frequentemente descartam críticas simplesmente com um “conheci pessoalmente e são gente boa”
Também há casos em que Curtis Yarvin aparece num encontro como o Vibecamp, é simpático com as pessoas e depois ganha defensores ali
Esse tipo de impressão é o oposto de uma postura racional e, depois que se forma uma divisão entre grupo interno e externo, vira evidência típica de que se ignora crítica objetiva
Quando se olha para a polêmica do Cade Metz, ela de repente vira uma lógica de “ou está do nosso lado ou é inimigo”, e os pontos que realmente deveriam ser debatidos acabam se perdendo
No caso do neorreacionarismo, dizem “mesmo que a ideia seja estranha, escute e veja se tira algo dela”, mas eles próprios não toleram bem objeções
No fim, isso faz perceber que talvez esse movimento não seja tão centrado na busca da verdade quanto parece, e seja um grupo movido mais por autoconfiança
Ideologia se torna mais poderosa quando as pessoas acham que não têm ideologia
Sinceramente, temo que os Rationalists sejam anarcofascistas sem carro
“-ismos” nunca são bons
A pessoa não deve acreditar em correntes, e sim em si mesma
Mas, dependendo do ângulo, isso também pode virar vários outros “-ismos”, como solipsismo e narcisismo
A antipatia que os Rationalists recebem parece exagerada em relação à realidade
Pensei em três causas principais
As pessoas odeiam ser excluídas
Quando alguém apresenta uma opinião diferente da sua, entra em ação uma reação de rejeição
Pelas mesmas razões históricas pelas quais nerds sempre sofreram exclusão
A comunidade Rationalist não é nada exclusivista
Basta se declarar rationalist, colocar “epistemic status” no blog e você já entra
Não é uma atmosfera de exclusão de pertencimento; na verdade, o problema dessa comunidade é que ela fala em diversidade, mas na prática as opiniões caminham de forma muito homogênea
Quando uma pessoa lança uma nova afirmação, logo todo mundo tende a aceitá-la como fato
Por exemplo, o argumento de que trace lithium causa obesidade se espalhou até com apoio de subsídio da Astral Codex Ten, mas especialistas apontaram desde o início erros na interpretação do artigo, abuso de estatística e ignorância de variáveis mais importantes
O problema não é diferença de opinião, e sim a frequência com que se ignora expertise real e se aborda tudo apenas por “primeiros princípios”, deixando de lado evidências conflitantes
Outro fator importante é que os Rationalists são um grupo baseado na internet, então toda a reputação deles é decidida online
E a própria internet tende a levar as discussões para um lado mais negativo, o que agrava esse fenômeno
A alegação deles de que “o alinhamento de ASI será difícil” só pode ser comprovada depois do fato
Por enquanto, ficam repetindo “o lobo vem aí”, mas sem evidência clara
E, se o lobo realmente aparecer, talvez já não haja como fazer nada, então isso acaba minando a confiança e gerando antipatia
O Hacker News julga a racionalidade com um rigor enorme
Por exemplo, se você olhar uma thread sobre Mr. Beast, apesar de ele ser uma figura controversa, os comentários mais votados costumam ser todos bastante indulgentes
Já Scott Aaronson, que teoricamente é alguém muito valorizado por essa comunidade, recebe um tratamento menos indulgente do que Mr. Beast quando o assunto é racionalidade
(link de exemplo sobre comentários do Mr. Beast)
Foi usada a expressão "vibe based", mas na verdade ela vem de várias observações empíricas
Ao ver no livro do Yudkowsky uma descrição como “um físico quântico que quase sempre está certo nas discussões da internet”, pensei: “ah, essa pessoa combinaria perfeitamente com a comunidade racionalista”
Na prática, se alguém de verdade falasse assim, isso por si só já seria fazer o papel de um personagem fictício
E, se tal personagem existisse de fato, a atmosfera ficaria ainda mais estranha
Até o título soa como uma cena de personagem de filme posando para a câmera
Sinceramente, se eu encontrasse Scott Aaronson na vida real, provavelmente teria uma reação parecida
Ele é tão inteligente, e eu nunca vi alguém explicar computação quântica com tanta clareza
Pergunto que sentido faz parar no início do texto e mesmo assim comentar sobre ele
Esse tipo de atitude é exatamente a desqualificação superficial que as diretrizes do HN proíbem
No relato da visita, a pessoa diz que a atmosfera da comunidade parecia sectária
De fato, quando vejo a descrição “parecia um culto”, acho bem fácil concordar
Tanto a comunidade Rationalist quanto a comunidade Rust são tratadas de forma curiosa no HN
Como Rationalist e Rationalism são frequentemente confundidos, é preciso entender que Rationality, especialmente a Rationality no estilo LessWrong, é diferente do Rationalism filosófico tradicional
A comunidade Rationalist segue uma tradição empirista, e a própria nomenclatura tenta marcar essa diferença
Só que, como as palavras são parecidas, essa distinção não funciona muito bem na prática
Em lugares como Lightcone e LessWrong, continua parecendo meio vago o que essa comunidade realmente faz de concreto