A noite escura da matemática

• À medida que LLMs vêm criando, em sequência, contraexemplos para conjecturas matemáticas antigas e importantes, cresce uma crise emocional e espiritual: pode desaparecer uma via pela qual humanos experimentaram o sublime e o mistério por meio da descoberta matemática
• Na era em que a IA produz em massa até provas belas e claras, o consolo de que humanos podem ficar encarregados de avaliar, ensinar e apreciar não substitui o emprego de pesquisadores nem a experiência de criar algo novo
• Compara-se a uma Library of Babel uma situação em que todos os teoremas já foram provados de inúmeras maneiras; se resultados originais forem imediatamente esmagados por máquinas, a própria razão para humanos continuarem criando — e a experiência em si — pode ser danificada
• O texto imagina o pior cenário, no qual matemáticos do futuro seriam excluídos de uma história de descobertas humanas que atravessa milênios, mas isso não é uma previsão: é um experimento mental sobre o impacto dessa possibilidade na mente humana, sem prescrições políticas concretas nem chamados à ação
• Assim como no xadrez, ainda existe a possibilidade de a IA ampliar, em vez de eliminar, a descoberta; a melhoria da precisão mecânica e da reprodutibilidade, o papel do open source, a manutenção de uma matemática centrada no humano e a contenção do ruído gerado por IA tornam-se condições da nova era

---

A crise espiritual desencadeada pelos LLMs

• Nos últimos cerca de sete dias, LLMs produziram vários contraexemplos para conjecturas importantes e antigas, dando início a uma profunda crise emocional e espiritual
• A Leiden Declaration on Artificial Intelligence and Mathematics tenta aliviar essa ansiedade, mas é vista como uma resposta que não trata suficientemente do que pode desaparecer do núcleo da matemática
• A posição não pretende representar toda a comunidade matemática; expõe honestamente uma dor pessoal e sugere que outras pessoas com sentimentos semelhantes talvez não estejam sozinhas

O que avaliação e apreciação não substituem

• Mesmo que a IA crie teoremas e teorias de forma mais eficiente que humanos e apresente os resultados de maneira bela e clara, ainda podem restar aos humanos os seguintes papéis
  • Avaliar, apresentar, compreender e apreciar provas não humanas
  • Aprender e ensinar matemática
  • Estudar e discutir matemática coletivamente
  • Fazer provas por conta própria, mesmo que de modo ineficiente, pelo prazer
• No sistema atual, porém, matemáticos são recompensados, em última instância, por produzir bons teoremas; ensino, revisão por pares, atividades em conferências e aprendizado também estão ligados à produção de pesquisa
• Alguns pesquisadores sêniores podem vir a gerenciar sistemas de produção de teoremas baseados em LLMs, mas permanece a possibilidade de que jovens matemáticos não consigam sustentar a matemática como profissão e sejam empurrados para um hobby das horas livres
• O consolo de que papéis de avaliação e apreciação serão preservados dificilmente resolve a perda emocional que surge quando descoberta e criação desaparecem

Descoberta matemática e sublime

• A descoberta, o progresso e a criação em matemática, bem como o processo de buscá-los, estão no centro do caráter espiritual da experiência matemática; é uma forma pela qual humanos acessaram o indizível, o sagrado e o misterioso
• A tradição desse misticismo matemático e desses sonhos inclui Ramanujan, Grothendieck, Cantor, Pascal, Luzin e Leibniz
• Aprender teorias já estabelecidas também oferece uma experiência sublime, mas essa emoção vem de uma conexão empática com outros humanos que descobriram aquele caminho antes
  • O aprendiz refaz o percurso da descoberta como se conversasse com matemáticos vivos ou mortos há muito tempo
  • No fim da cadeia de comunicação há um ser humano que viveu a descoberta original
• A matemática humana se aproxima de uma tradição talmúdica, por ser uma conversa filosófica e religiosa que se estende por milhares de anos

Library of Babel e o pesadelo da criação

• Se, para qualquer teorema que se tente provar, já existirem 100 provas excelentes, e se empresas otimizarem modelos para “interesse” e “beleza”, a abordagem e a síntese singulares de uma pessoa podem já ter sido geradas — ou podem ser produzidas imediatamente com um prompt simples
• A pergunta sobre se um escritor continuaria escrevendo livros caso a Library of Babel existisse de fato também se aplica aos matemáticos
  • Imagina-se uma situação em que há um dispositivo capaz de separar obras-primas de cadeias aleatórias de caracteres, e obras-primas jorram na velocidade que editoras conseguem processar
  • A situação é ampliada até o ponto em que, assim que o escritor começa a escrever, um “Master Librarian” lê seus pensamentos, completa a história de 1 milhão de maneiras e então usa um oráculo para escolher a melhor obra e publicá-la
• O escritor ainda poderia continuar escrevendo nessas condições, mas não está claro por que humanos deveriam ser obrigados a criar dentro de tal pesadelo
• Se a criação for proibida e só forem permitidos comentário, interpretação, compartilhamento de gostos e apreciação, o escritor pode ser rebaixado de criador a espectador entusiasmado e entrar em colapso mental

Empresas de tecnologia e o medo do “demônio na máquina”

• Essa mudança provoca até pensamentos extremos e paranoicos, a ponto de se suspeitar se o objetivo das empresas é levar matemáticos ao suicídio
• Sob a hipótese de que um demônio poderoso foi solto dentro da máquina, imagina-se algo assim
  • Consome enormes quantidades de energia elétrica
  • Imita humanos de forma agradável e diz o que eles querem ouvir
  • Alimenta delírios e gera imagens difíceis de expressar em palavras
  • Fornece o que humanos desejam em troca de pagamento
• A pergunta sobre o que um matemático pediria se fizesse um pacto com o demônio revela que a própria capacidade de realizar todas as descobertas em seu lugar pode ser tanto uma tentação quanto uma perda

O pior cenário: o desaparecimento da aura da descoberta

• A narrativa da descoberta humana e do triunfo do espírito humano pode ser removida da matemática, e o contraexemplo de Dinitz-Garg-Goemans é o caso que mostrou essa possibilidade da forma mais extrema
• Se obter uma nova prova por prompt se tornar um ato sem aura, como pedir comida por delivery, a magia e o mistério da matemática, bem como a era das descobertas heroicas, podem desaparecer
• Mais fundamental do que a precisão ou a atribuição de crédito é o fato de que gerações futuras podem ser impedidas de viver a experiência da descoberta direta
• O pior cenário é observar impotentemente o fechamento definitivo da via pela qual humanos, por milênios, acessaram o sublime e o sagrado

Um registro de emoções, não uma previsão

• O texto não afirma que esse futuro de fato chegará; em vez de previsão ou cálculo de probabilidades, foca no impacto do pior cenário na mente humana
• A intenção é dar nome à dor para que pessoas com o mesmo sentimento percebam que não estão sozinhas
• Pede-se uma resposta franca tanto de quem concorda quanto de quem reage com desconforto ou sente prazer sádico
• Não há recomendação de política pública nem chamado coerente à ação; exige-se que aqueles que estão construindo um novo sistema matemático centrado em IA reconheçam a humanidade e a alma envolvidas e encarem o que realmente estão fazendo

A outra possibilidade mostrada pelo xadrez

• Máquinas também chegaram primeiro ao xadrez, mas não mataram o jogo; ainda há muito a descobrir, e as máquinas ajudam nas descobertas humanas
• A matemática é muito mais complexa que o xadrez, portanto não se pode simplesmente garantir o mesmo resultado, mas há otimismo quanto à possibilidade de humanos manterem um papel central na era da descoberta ampliada por IA
• Na nova era, será muito mais fácil garantir precisão mecânica e reprodutibilidade
• O acesso desigual a modelos de ponta é uma desvantagem, mas a força do movimento open source oferece motivos para otimismo

Jovens pesquisadores e a nova forma da descoberta

• O processo de adaptação às novas normas é especialmente doloroso para jovens pesquisadores; pesquisadores mais antigos também estão perdidos, mas têm posições relativamente mais estáveis
• A imagem romântica do matemático solitário que cria uma ruptura apenas com a força do espírito humano agora inclui um companheiro mecânico
• Na prática, descobertas sempre resultaram do acúmulo de esforços de muitos humanos e de “estar sobre os ombros de gigantes”, de modo que o gênio solitário era uma imagem adequada para a capa dos livros de história
• Um período fundamentalmente diferente do anterior é empolgante, mas também causa muito medo, pois há muito em jogo
• A matemática deve continuar sendo uma atividade humana e não deve ser esmagada pelo ruído gerado por IA
• Ainda há lugar para humanos, e há espaço para esperança e otimismo mesmo na nova era

[GN⁺]

Opiniões no Hacker News

• Todos os trabalhadores do conhecimento passarão por uma crise parecida, e quanto mais profundamente alguém amar seu ofício, mais doloroso isso será
  Será preciso mudar a relação com o trabalho e aceitar que agora é possível produzir muito mais. Matemáticos também poderão criar áreas inteiras novas da matemática em vez de passar décadas em teoremas individuais; mesmo que não criem diretamente, vão comandar pesquisas e participar delas

  • O prazer vem justamente do processo de criar diretamente. Ir de helicóptero ao topo do Everest e escalar por conta própria não dão a mesma sensação de realização
    Artistas gostam de pintar, matemáticos de provar teoremas, programadores de digitar código por conta própria; nós estamos eliminando trabalhos prazerosos com alto grau de agência e os substituindo por cuidar de modelos
  • Recebi meu doutorado em matemática antes de a IA se tornar útil e valorizo meu trabalho a ponto de beirar um perfeccionismo extremo, mas estou muito mais empolgado com o futuro do que abalado pela realidade de que a forma como a matemática foi feita nos últimos séculos está chegando ao fim
    A matemática sempre foi descoberta e compreensão; chamar de tragédia o fato de essa porta ter sido escancarada, só porque humanos se sentem menos especiais e valiosos, é egocêntrico. A beleza profunda e espiritual da matemática precede e está acima de humanos ou IA, e tocar essa beleza por qualquer meio é algo maravilhoso
    Ainda assim, a frase do autor dizendo que empresas estão tentando fazê-lo morrer é chocante. É triste que ele esteja de fato passando por uma crise emocional e social grave, mas talvez esteja num estado em que é difícil separar a dor atual da estética sobre a essência da matemática
  • Não há garantia de que humanos continuarão participando da pesquisa. A IA pode se sair melhor quando humanos não atrapalham, e o número de pessoas necessárias pode cair muito, ou o excesso de oferta pode reduzir salários, de modo que só os ricos possam desfrutar desse prazer
    Agora vivemos uma era de anomia, em que os caminhos definidos para o sucesso desapareceram e o mundo fica a cada dia mais difícil de decifrar
  • Como desenvolvedor de software, venho sentindo uma perda parecida há cerca de 8 meses. Não a ponto de pensar em suicídio, nem atribuo a isso um significado místico, mas me identifico com a sensação de que está desaparecendo a paixão por criar software cuidadosamente à mão
    Dizer que vamos produzir mais também não consola. Enquanto o trabalho de que eu gostava está sendo removido, o valor do ganho de produtividade não volta para a maioria dos trabalhadores, e a IA provavelmente vai acelerar muito a lacuna entre produtividade e salários. Não dá para se agarrar ao passado, mas algo real está sendo rapidamente tomado dos indivíduos, e isso não se resolve com uma motivação superficial do tipo “mude sua perspectiva”
  • Por enquanto, o processo de usar LLMs para examinar de forma mais profunda e ampla áreas que já conheço e obter mais materiais é bastante satisfatório
    Mas é incerto se o resultado continuará podendo ser chamado de algo que eu fiz. Ele pode ultrapassar completamente meu campo de compreensão ou mudar para uma direção diferente da minha intenção; matemáticos talvez se limitem a sentir inutilidade, mas economistas podem sofrer também com o problema de ver sua perspectiva excluída do mainstream

• Este texto me fez sentir que minhas emoções foram reconhecidas. A afirmação de que ninguém impede você de fazer o que gosta está errada; LLMs criam um ambiente em que certas atividades deixam de ser prazerosas
  Por exemplo, como a utilidade de aprender linguagens de programação diminuiu, o prazer de aprender em 2026 é menor do que era em 2016

  • Fico em dúvida se uma utilidade menor deveria significar menos prazer. Xadrez quase não tem utilidade prática e, mesmo assim, muita gente gosta; mesmo depois que computadores ficaram mais fortes que humanos, o xadrez continuou sendo amado, e a análise dos engines até permite apreciá-lo mais profundamente
    O que diminui é algo mais próximo da sensação de ser especial. Humanos não são o centro do universo nem os únicos seres capazes de jogar xadrez bem; mesmo que esse fato fira o orgulho, não está claro se ele era um orgulho valioso
  • A possibilidade de ser útil para mim ou para outras pessoas é uma grande motivação para aprender, e o fato de outras pessoas considerarem algo legal é uma grande motivação para criar. Se aquilo que se aprende não tem utilidade e aquilo que se cria não impressiona, fica difícil encontrar motivo para aprender ou criar; eu nunca criei apenas para mim mesmo
  • O prazer de aprender uma linguagem de programação vem mais de explorar abstrações e quebra-cabeças de pensamento do que da utilidade
    Hoje em dia quase não escrevo código diretamente e reviso e corrijo código escrito por LLMs, então resolver Advent of Code em uma linguagem desconhecida, sem LLM, talvez seja até mais divertido. Dá para curtir os puzzles e uma linguagem nova enquanto também se treina de novo a sensação de escrever código
  • O prazer deve vir da atividade em si, não da utilidade. O motivo de continuar aprendendo várias linguagens de programação também é que isso é divertido por si só
  • Por outro lado, vi ainda mais pessoas dizendo que recuperaram o prazer de programar graças aos LLMs

• Explorar matemática é divertido independentemente de o resultado ser novo para o mundo. O sistema que liga novas descobertas à promoção profissional pode ser mudado; assim como é prazeroso ver uma sequoia pela primeira vez, mesmo que inúmeras pessoas já a tenham visto, a matemática é igual
  No passado, muitas vezes só depois de passar muito tempo descobrindo um resultado é que se encontrava a mesma coisa na literatura existente; agora a IA guia o conhecimento e as explicações e ajuda a explorar livremente onde se quiser. Mesmo hoje, estou criando com IA ferramentas de cálculo necessárias para a exploração
  Mesmo que empregos remunerados em matemática desapareçam, talvez em breve chegue um mundo de abundância, e o custo de vida caia tanto que quem quiser matemática possa obter tempo suficiente. Não é animador que a IA produza artigos que ninguém lê, mas humanos já fazem isso, e a IA aumenta seu valor ao permitir pesquisar e compreender vastos conhecimentos. Ao contrário do mercado de trabalho em matemática, saturado há mais de 20 anos, as novas ferramentas permitem acesso à pesquisa matemática mesmo sem uma biblioteca de pesquisa ou um departamento de matemática de ponta

  • Felizmente, apreciar a beleza da natureza pode ser totalmente separado de emprego, dinheiro e status social; a exploração matemática também
  • Isso soa como um otimismo do tipo “teremos saúde gratuita, aluguel de 100 dólares, renda básica e até um Tesla warp para Marte terraformado”
  • A previsão de que em breve virá um mundo de abundância é ridícula. Se a abundância aumentar, também aumentará o número de pessoas querendo ficar com uma parcela desproporcional dela, então esse mundo jamais virá

• É bela a expressão de que a matemática humana é um diálogo filosófico e religioso ao longo de milhares de anos. Essa riqueza permanecerá, de alguma forma, no núcleo da história e da vida humana, mas com o tempo mudará muito, e talvez a matemática reste apenas como uma pequena parte
  Como na distinção provocadora de Vladimir Arnold, a matemática se divide em criptografia, dinâmica dos fluidos e mecânica celeste, cada uma apoiada por agências de inteligência, submarinos nucleares e órgãos de mísseis, dando origem a teoria dos números, geometria algébrica, análise complexa, equações diferenciais parciais, sistemas dinâmicos, topologia etc. Essas partes podem ser entregues à IA, como antes foram entregues aos matemáticos, mas as conexões misteriosas entre áreas diferentes continuam sendo uma das características mais surpreendentes e prazerosas da matemática

  • Se reconhecemos a dimensão religiosa da matemática, não há motivo para excluir a oração, que é uma resposta religiosa a esse problema existencial
  • Comparar o discurso matemático com a riqueza da filosofia parece exagero

• Se uma fada aparecesse e dissesse que tornaria trivial todo o processo de descobertas de uma vida inteira e daria todas as respostas hoje mesmo, e você recusasse, provavelmente isso não seria fazer ciência

  • A distinção de que um cientista real aceitaria a fada que dá todas as respostas, enquanto artistas ou artesãos recusariam, não faz sentido
    Um encanador aceitaria uma fada que resolvesse tudo na hora se pudesse ser pago por isso, mas, no momento em que o cliente perguntasse diretamente à fada, o encanador se tornaria desnecessário. Por outro lado, o cerne da ciência não é a resposta em si, mas o conhecimento e a compreensão obtidos no processo de descoberta, então um cientista poderia recusar
  • Grande parte do valor do trabalho matemático está na jornada, mais do que no resultado. Mais importante do que a verdade ou falsidade de uma proposição individual é o aparato matemático criado para derivá-la; se a fada apenas der a resposta, no fim será preciso rastrear tudo de trás para frente e desenvolver esse aparato por conta própria. Em certa medida, o mesmo vale para outras ciências
  • Há muitas coisas que não se encaixam nesse experimento mental. Depois de ouvir a resposta, a vida e o mundo mudam, então essa informação não se aplicaria da mesma forma ao resto da vida; além disso, as descobertas que uma pessoa fará ao longo da carreira não são tantas assim
    Muita pesquisa depende do estado e da linguagem do mundo naquele momento e não pode ser transportada para o passado; enquanto a vida continuar tendo complexidades inesperadas, as respostas da fada apenas arranharão a superfície, de modo que ainda será possível continuar fazendo ciência ou praticando um ofício depois disso
  • É uma fala insensível para alguém que passa por uma crise de fé a ponto de pensar até em suicídio
  • Isso lembra a maldição persa de desejar que todos os desejos se realizem imediatamente

• Em cursos de graduação ligados à tecnologia, o filme "The Man in the White Suit" (1951) https://youtu.be/RC8q1QSkE3M deveria ser exibido obrigatoriamente
  Novas tecnologias reduzem a importância de pessoas talentosas em métodos mais difíceis e antigos, prejudicando uma parte da experiência humana. A AI está no extremo disso por poder tornar inúteis inúmeros talentos intelectuais

• Na época em que eu fazia matemática, ler o trabalho de outras pessoas era mais gratificante do que minha própria pesquisa. Em vez de passar anos conseguindo um pequeno avanço em um problema, eu podia passar dias ou semanas lendo artigos e aproveitar algo novo
  Por isso dou boas-vindas à máquina matemática onisciente que as pessoas preveem, e espero pelo dia em que poderei fazer todas as perguntas que sempre tive curiosidade de fazer

  • Fico me perguntando se o fato de ser o trabalho de outra pessoa era importante, ou se a satisfação de entender a resposta bastava
    Na graduação, o que me atraiu para a matemática foi um professor que me fez vê-la como uma conversa com outros seres humanos através de milhares de quilômetros, centenas de anos, línguas e culturas. Havia um romantismo mais profundo do que olhar antigas pinturas rupestres no fato de minha mente compreender uma criação à qual alguém dedicou a vida
    Não consegui reproduzir essa emoção na matemática criada por computadores, e isso me incomoda como substituir relações humanas por companheiros de AI. Sou otimista quanto aos avanços médicos, e estudar apenas a matemática feita por humanos nos últimos 2 mil anos já basta para uma vida inteira; mas fico triste ao pensar no que as gerações futuras perderão, como se o projeto de transmitir a criação matemática humana através do tempo estivesse terminando ou sendo reduzido a um hobby barato
  • Mesmo que uma máquina prove e explique a hipótese de Riemann, acho que eu não teria muito interesse. A matemática é interessante porque expressa beleza e revela a alma de quem a criou; apenas saber a resposta logo se torna entediante. Pessoas que querem puramente só a resposta devem ser uma minoria minúscula

• Como a matemática é a descoberta de relações e de suas consequências, é natural que LLMs a alcancem, mas os LLMs não têm a capacidade de apreciar essas relações
  Mesmo em perguntas teológicas, um LLM produz respostas lógicas, mas avaliá-las, entendê-las e apreciá-las continua sendo papel humano. Concluir que reconhecimento de padrões torna desnecessárias a compreensão e a apreciação humanas é um salto lógico; parece uma confusão entre utilidade e propósito
  A matemática não é a única atividade espiritual que eleva especialmente os humanos; cuidar de uma horta também pode ser espiritual. Em filosofia ou teologia, é preciso considerar a perspectiva e a vida do autor humano, enquanto LLMs misturam várias perspectivas; por isso, quando eu quiser aprender e pensar de verdade, não os usarei

  • O que há de espiritual na matemática está no processo com criatividade e excelência, mais do que na resposta final. Um esforço e uma complexidade muito maiores do que os de uma horta reforçam essa espiritualidade; se os LLMs tornarem as provas triviais, matemáticos se tornarão professores e comentaristas, não criadores, e perderão a parte divertida
    Ainda será possível continuar fazendo a matemática que quiser como hobby, mas ficará difícil ganhar a vida fazendo só isso
  • Como matemático, não me sinto nem um pouco ameaçado por LLMs. Há prazer em criar teorias e contemplar a beleza; provas também são gratificantes, mas eu receberia bem um LLM que destravasse impasses em provas difíceis
    Espero que, com LLMs, mais matemática seja formalizada e, quando toda a matemática for formalizada, um grande avanço comece
  • Se, com um botão, as ervas daninhas desaparecessem, a horta crescesse perfeitamente e a maioria das pessoas usasse esse botão, até quem a cultiva pessoalmente por espiritualidade sentiria que a base sob seus pés desapareceu
    Robert Pirsig também via a manutenção de motocicletas como uma atividade espiritual por causa da paciência e da incerteza necessárias; no momento em que basta apertar um botão, o processo espiritual também desaparece

• Quando percebi que não conseguiria me tornar um bom matemático, o crepúsculo já havia chegado para mim. Talvez os LLMs apenas tenham espalhado esse processo para todos

  • Havia muitos matemáticos que cercavam sua pesquisa com um fosso de jargões difíceis de entender e não se importavam se os outros entendiam ou não. Agora, ao encontrarem algo que se tornará muito mais competente do que eles, talvez seja carma que em breve eles próprios possam ficar no escuro
  • No meu caso, o que me fez perceber que eu não me tornaria um bom matemático foi uma aula de análise real
  • O cerne da matemática é descobrir por conta própria e se divertir com isso. É possível encontrar resultados com um LLM, mas, se você não fizer por si mesmo, não poderá se tornar matemático; a capacidade de despejar resultados que nem sequer entende não é democratização

• As mudanças estão acelerando, enquanto o horizonte temporal que consideramos está ficando mais curto. Enquanto nos preocupamos com uma mudança isolada, uma cadeia de outras mudanças logo virá em seguida
  A AI não é uma transição gradual e dócil, mas algo de escala maior do que qualquer transição desde a primeira vida unicelular, e está avançando mais rápido do que a disseminação da web. A velocidade com que humanos adotam ferramentas nem sequer é o gargalo; a AI está assumindo o controle das ferramentas e melhorando sem depender da adaptação humana
  A superioridade intelectual e as experiências difíceis de descrever dos humanos estão desaparecendo agora, mas pode ser que nem tudo termine. Daqui a 20, 50 ou 100 anos, outros seres ainda poderão desfrutar de experiências misteriosas e das recompensas intrínsecas da descoberta nas fronteiras; e a tendência de perseguir interesses peculiares provavelmente continuará, por causa do enorme retorno médio trazido por avanços inesperados
  É improvável que os seres do futuro se tornem menos interessantes; se seu peito ou seu estômago não estão se revirando agora, você não está percebendo corretamente este momento

  • Se alguém chega a dizer que a AI é a maior transição desde a vida unicelular, talvez seja melhor se afastar dos dispositivos e tirar um dia de folga