1 pontos por GN⁺ 2024-12-15 | 1 comentários | Compartilhar no WhatsApp
  • A entropia surgiu há 200 anos a partir do problema de determinar os limites de eficiência das máquinas a vapor, mas na física moderna vem sendo reinterpretada menos como uma propriedade fixa do mundo e mais como uma quantidade que mede a informação que o observador não conhece
  • Passando por Carnot, Clausius e Boltzmann, a entropia se tornou um conceito que explica o quanto o calor se dispersa sem conseguir virar trabalho, o número de microestados possíveis e por que o tempo flui em uma única direção
  • Shannon e Jaynes expandiram a entropia para a linguagem de informação e incerteza, e o paradoxo da mistura de Gibbs mostra que aquilo que conseguimos distinguir pode mudar o trabalho extraível e a entropia
  • Pesquisas recentes tentam incorporar à matemática as capacidades limitadas de medição, memória e cálculo do observador, e a entropia observacional, os motores de informação, o motor de Szilard com observação parcial e os experimentos de termodinâmica quântica exploram essa direção
  • Nessa perspectiva, mais importante do que eficiência perfeita e previsão perfeita é a gestão da incerteza, e a informação passa a ser tratada como um recurso físico que define os limites da extração de energia, da tomada de decisão e das máquinas pequenas

Entropia: das máquinas a vapor à eficiência

  • O conceito de entropia nasceu do problema da eficiência das máquinas durante a Revolução Industrial
  • Em 1824, o engenheiro militar francês de 28 anos Sadi Carnot tentou calcular a eficiência máxima possível de uma máquina a vapor e publicou um livro de 118 páginas, Reflections on the Motive Power of Fire
  • Carnot via a máquina a vapor como um dispositivo que aproveita a tendência do calor de fluir de um corpo quente para um corpo frio
    • Há um limite para a fração de calor que pode ser convertida em trabalho, resultado que ficou conhecido como o teorema de Carnot
    • Por causa de atrito, vibração e movimentos indesejados, parte da energia sempre se dispersa, tornando impossível a eficiência perfeita
  • Em 1865, o físico alemão Rudolf Clausius chamou de “entropy” a fração da energia que fica presa em formas inúteis
    • Ele formulou a segunda lei da termodinâmica na forma de que “a entropia do universo tende a um valor máximo”

A interpretação probabilística de Boltzmann e a seta do tempo

  • Na época, os físicos entendiam erroneamente o calor como um fluido chamado “caloric”, mas depois se consolidou a visão de que o calor nasce do movimento das moléculas
  • Ludwig Boltzmann reinterpretou a entropia em termos de probabilidade
    • Estados detalhados como a posição e a velocidade de cada molécula são microestados
    • Propriedades globais como temperatura e pressão, ou a disposição geral de peças de damas em um tabuleiro, são macroestados
    • Quanto maior o número de microestados capazes de produzir um macroestado, maior a entropia
  • Há poucas maneiras de produzir um padrão ordenado, mas muito mais maneiras de produzir um arranjo espalhado ao acaso
    • Por isso, a segunda lei pode ser entendida como uma afirmação probabilística: há mais formas de um estado se tornar bagunçado do que de permanecer limpo e organizado
  • Como um estado misturado de partículas quentes e frias é mais provável do que um estado em que elas estão separadas, o calor flui do quente para o frio
  • A mesma lógica se aplica a fenômenos como vidro quebrando, gelo derretendo, líquidos se misturando e folhas se decompondo
    • O aumento da entropia grava a seta do tempo em processos que também parecem poder acontecer ao contrário

A expansão da entropia para a teoria da informação

  • Durante a Segunda Guerra Mundial, Claude Shannon trabalhava na criptografia de canais de comunicação e queria medir a quantidade de informação contida em uma mensagem
  • Shannon tratou conhecimento como redução de incerteza e definiu, com probabilidade e logaritmos, a incerteza sobre qual será o próximo caractere
    • Se todos os caracteres têm a mesma probabilidade, a fórmula de Shannon assume a mesma forma da fórmula da entropia de Boltzmann
    • Conta-se que John von Neumann sugeriu a Shannon chamar essa quantidade de “entropy”
  • Assim como a entropia termodinâmica explica a eficiência dos motores, a entropia da informação captura a eficiência da comunicação
    • Mensagens com alta entropia têm poucos padrões, dificultam prever o próximo caractere e exigem mais perguntas de sim ou não para descobrir o conteúdo
    • Mensagens com muitos padrões carregam menos informação e são mais fáceis de adivinhar
  • Em 1957, E.T. Jaynes retomou a termodinâmica sob a ótica da teoria da informação em dois artigos
    • A termodinâmica se parece mais com a ciência de fazer inferência estatística a partir de medições incompletas sobre partículas
    • Ele propôs o princípio da máxima entropia, que atribui igual possibilidade a todas as configurações compatíveis com as restrições conhecidas
    • Esse princípio é usado não só em mecânica estatística, mas também em machine learning e ecologia
  • Os diferentes conceitos de entropia surgidos em contextos distintos estão todos ligados à incerteza
    • Se perdemos informação sobre a posição e o momento das partículas, a entropia de Gibbs aumenta
    • Se partículas se emaranham com o ambiente e o estado quântico fica difuso, a entropia de von Neumann aumenta
    • Se matéria cai em um buraco negro e o mundo externo perde essa informação, a entropia de Bekenstein-Hawking aumenta

De quem é a ignorância medida pela entropia?

  • Na compreensão moderna, a entropia mede a ignorância sobre o movimento das partículas, o próximo número em uma sequência codificada ou o estado exato de um sistema quântico
  • Essa perspectiva logo leva à pergunta: “ignorância de quem?”
  • Carlo Rovelli observou o fenômeno de óleo e água se separando após serem agitados e viu nisso um problema para a explicação simplista da segunda lei como mero “aumento da desordem”
    • Na aparência, a ordem aumenta, mas um observador com uma visão térmica poderosa veria que, durante a separação, energia cinética é liberada nas moléculas, tornando o estado termicamente mais desordenado
    • A ordem macroscópica pode surgir ao custo de desordem microscópica
  • Jaynes mostrou, com o paradoxo da mistura de Gibbs, que a capacidade do observador de distinguir coisas pode alterar a entropia
    • Se dois gases diferentes, A e B, separados por uma divisória, se misturam, a entropia aumenta
    • Se os dois gases forem idênticos e tiverem a mesma pressão e temperatura, erguer a divisória não altera a entropia
    • Se os gases forem de fato diferentes, mas não houver como distingui-los, então para o experimentador eles se comportam como o mesmo gás
  • No exemplo de Jaynes, os dois tipos de argônio diferem apenas na solubilidade em um elemento ainda não descoberto chamado “whifnium”
    • Antes da descoberta do whifnium, não há como distingui-los, e erguer a divisória não produz nenhuma mudança aparente de entropia
    • Depois da descoberta do whifnium, torna-se possível distinguir os dois argônios e projetar um pistão capaz de extrair energia da mistura
  • A entropia e o trabalho extraível dependem não só das diferenças do próprio sistema, mas também do conhecimento e dos recursos de que o observador dispõe

Tentativas de colocar a dependência do observador na matemática

  • Tratar a entropia não como uma propriedade intrínseca do sistema, mas como uma propriedade que varia conforme o observador, traz um peso filosófico para a objetividade da física
  • Anthony Aguirre e seus colaboradores elaboraram uma medida chamada entropia observacional (observational entropy)
    • Ela especifica quais propriedades um observador pode acessar e ajusta o quão grosseiramente essas propriedades agrupam a realidade
    • Como em Jaynes, atribui igual probabilidade a todos os microestados compatíveis com as propriedades observadas
    • A fórmula faz a ponte entre a entropia termodinâmica, que lida com características macroscópicas, e a entropia da informação, que lida com detalhes microscópicos
  • Vários grupos de pesquisa independentes estão usando a fórmula de Aguirre para buscar demonstrações mais rigorosas da segunda lei
  • Aguirre quer usar essa medida para esclarecer por que o universo começou em um estado de baixa entropia, por que o tempo flui para a frente e o que a entropia significa em buracos negros
  • Na teoria quântica da informação, a informação é tratada como um recurso que o observador usa ao interagir com o sistema
    • Para um supercomputador com capacidade infinita de rastrear o estado exato de todas as partículas, a entropia seria sempre constante e não haveria perda de informação
    • Para observadores com recursos computacionais finitos, como os humanos, a realidade é agrupada de forma grosseira e os detalhes microscópicos se perdem aos poucos
    • Esse fluxo aparece para nós como a passagem do tempo

Motores de informação e a física da tomada de decisão

  • No verão de 2023, a FQxI, cofundada por Aguirre, reuniu em Yorkshire, no Reino Unido, físicos que estudam como usar informação como combustível
  • Para esses pesquisadores, a distinção entre motor e computador está ficando cada vez mais borrada
    • A informação é tratada como um recurso físico real e quantificável, que indica quanto trabalho pode ser extraído de um sistema
  • O experimento mental de Leo Szilard mostra a essência dos motores de informação
    • Uma única partícula dentro de uma caixa empurra uma divisória, e um demônio usa corda e roldana para erguer um peso do lado de fora
    • Para obter trabalho repetidamente, o demônio precisa saber em que lado da caixa a partícula está
    • O motor de Szilard é movido a informação
  • Motores de informação também não são perfeitos como máquinas térmicas ideais
    • Medir e armazenar informação gera, em média, pelo menos a mesma quantidade de entropia
    • O conhecimento torna o trabalho possível, mas obter e lembrar esse conhecimento também consome energia
  • Susanne Still vem tratando o observador como um sistema físico com limites físicos
    • O observador precisa decidir o que medir e o que armazenar em uma memória limitada
    • Reunir informação que não ajuda em previsões úteis reduz a eficiência energética
    • Still propôs o princípio do menor autoimpedimento (least self-impediment principle), que busca estratégias de processamento de informação o mais próximas possível dos limites físicos
  • Still modela a observabilidade parcial do mundo real com uma versão modificada do motor de Szilard com divisória inclinada
    • O usuário só consegue ver a posição horizontal da partícula, por exemplo sua sombra
    • Se a sombra estiver totalmente à esquerda ou à direita da divisória, é possível saber de que lado a partícula está, mas numa região intermediária isso não é possível
    • Ao calcular a estratégia ótima de medição e codificação de memória nesse modelo, surge uma derivação física do algoritmo de gargalo de informação (information bottleneck algorithm), usado em machine learning

Pequenos motores de informação no laboratório

  • John Bechhoefer e pesquisadores da Simon Fraser University recriaram um motor de Szilard com uma esfera de sílica menor que poeira flutuando na água
    • Eles aprisionam a esfera com laser e monitoram suas flutuações térmicas aleatórias
    • Quando a esfera oscila para cima, elevam rapidamente a armadilha de laser e aproveitam esse movimento
    • Conseguiram erguer um peso com a força da informação
  • Bechhoefer e Still estudam os limites da extração de trabalho em motores de informação reais
    • Descobriram que, em certas regiões, motores de informação podem superar bastante o desempenho de motores convencionais
    • Inspirados pelo trabalho teórico de Still, também acompanharam a ineficiência produzida por informação parcial sobre o estado da esfera
  • Natalia Ares, da Oxford University, está realizando experimentos para reduzir motores de informação à escala quântica
    • Em um chip de silício do tamanho de um porta-copos, ela aprisiona um único elétron dentro de um fino fio de carbono
    • Esse nanotubo é resfriado a milésimos de grau acima do zero absoluto e vibra como uma corda de violão
    • A frequência da vibração é determinada pelo estado do elétron interno, e os pesquisadores querem usar essas microvibrações para diagnosticar o quanto trabalho está sendo produzido por fenômenos quânticos
  • Um dos planos experimentais de Ares segue as ideias de Still
    • Ela ajusta o quanto a vibração do nanotubo depende perfeitamente do elétron, ou o quanto depende de outros fatores desconhecidos
    • Isso funciona como um controle do grau de ignorância do observador
  • Em escala quântica, fica mais complexo definir qual entropia estabelece os limites relevantes e como a produção de trabalho deve ser definida
    • Pesquisas recentes lideradas por Nicole Yunger Halpern mostram que definições de produção de entropia que normalmente são tratadas como equivalentes podem divergir no domínio quântico
    • Na escala quântica, certas propriedades não podem ser conhecidas simultaneamente, e a ordem da medição pode afetar os resultados
    • Yunger Halpern acredita que recursos adicionais do mundo quântico podem ser usados para contornar os limites ao redor do teorema de Carnot

Uma virada para a ciência da incerteza

  • Em setembro de 2024, em Palaiseau, na França, centenas de pesquisadores se reuniram para comemorar os 200 anos do livro de Carnot
    • Os participantes discutiram o papel da entropia em suas áreas de pesquisa, de células solares a buracos negros
    • Um responsável do Centro Nacional de Pesquisa Científica da França pediu desculpas em nome do país por ter subestimado a influência de Carnot
  • A percepção de Carnot nasceu da tentativa de controlar completamente um mundo mecânico, mas à medida que a entropia se espalhou pelas ciências naturais, o foco mudou
  • A visão refinada da entropia abandona o sonho de eficiência perfeita e previsão perfeita, reconhecendo a incerteza irredutível do mundo
  • A ruptura da ordem move todas as máquinas, e essa nova perspectiva pode revelar reservas de ordem escondidas dentro do caos
  • A entropia não é apenas desordem inevitável: ela também funciona como um motor da busca por conhecimento, levando-nos a detectar, inferir e fazer escolhas melhores

1 comentários

 
GN⁺ 2024-12-15
Opiniões no Hacker News
  • Fico feliz em ver o artigo sendo discutido aqui
    Fiquei responsável pela implementação técnica dos elementos interativos, e o código-fonte pode ser visto aqui: https://github.com/jnsprnw/mip-entropy
    Foi feito com Svelte 5 e Tailwind

    • Fiquei curioso para saber por que você escolheu Svelte 5 em vez de outras opções
      Parece que hoje em dia muitas interações pontuais são feitas em Svelte; quais são as vantagens?
  • É interessante ler este artigo 27 anos depois do meu doutorado
    No doutorado em física teórica, comparei casos com e sem incógnitas, do ponto de vista da entropia como fator impulsionador
    Minha tese tratava de como lidar com um sistema quântico dentro de uma cavidade, com uma cavidade em que um lado era um espelho perfeito e o outro era um espelho 99,999999% perfeito
    Coloquei outro espelho perfeito do outro lado do espelho imperfeito para completar um universo unidimensional; em ASCII seria [100%] —l— [100-epsilon] ——L——— [100%], em que L >> l
    A solução para o universo inteiro era simples usando técnicas padrão de mecânica quântica, mas a solução para o pequeno universo com perdas não era, embora fisicamente as duas devessem ser iguais
    Então usei a solução exata do universo completo (l+L) para compará-la com possíveis modelos do pequeno universo (l) com termos não lineares que explicassem as perdas
    Em sistemas com perdas, a entropia existe ou atua como uma força motriz; em sistemas sem perdas, tudo é conservado — e a conexão entre os dois não é uma percepção nova ;-0

    • Achei interessante, mas não sei que tipo de espelho você quer dizer, nem está claro se é um espelho óptico
      Também não sei o que l e L significam, e acho que talvez a última frase não devesse ter how
    • Interessante. Você poderia compartilhar um link para a tese?
  • Depois de ouvir Sean Carroll explicar entropia, ela ficou muito mais interessante para mim
    Ele tem uma inclinação fundacional e filosófica, e costuma destacar que há definições de entropia apoiadas em fundamentos filosóficos diferentes competindo entre si, e que uma delas parece depender do observador
    https://youtu.be/x9COqqqsFtc?si=cQkfV5IpLC039Cl5
    https://youtu.be/XJ14ZO-e9NY?si=xi8idD5JmQbT5zxN
    Leonard Susskind tem muitas palestras e livros excelentes sobre informação quântica e cálculos de entropia de buracos negros, o que levou a algumas novas hipóteses bastante radicais
    Stephen Wolfram também fez uma longa palestra sobre a história do conceito de entropia, e ela é muito boa: https://www.youtube.com/live/ocOHxPs1LQ0?si=zvQNsj_FEGbTX2R3

    • Por que isso seria um conceito minimamente empolgante? É o conceito mais deprimente que já ouvi
  • O trecho que diz que “à medida que os físicos tentaram, ao longo do último século, unificar áreas aparentemente desconexas, eles lançaram nova luz sobre a entropia e voltaram o microscópio para a pessoa que olha por ele, transformando a noção de desordem na noção de ignorância. A entropia é vista não como uma propriedade inerente a um sistema, mas como algo relativo ao observador que interage com esse sistema” me parece uma observação bastante comum, talvez graças aos ombros de gigantes
    Um estado de alta entropia é um macroestado que tem muitos microestados correspondentes
    O próprio ato de classificar vários microestados como o mesmo macroestado não é obviamente uma função centrada no observador?
    Por exemplo, se em um dado eu considerar 5 e 6 como resultados essencialmente iguais, esse resultado passa a ser mais provável e de maior entropia
    Mas isso se deve à minha classificação, não é uma propriedade inerente ao sistema

    • Isso não é comum e, pelo menos no caso da entropia em física e termodinâmica, também não está correto
      Dizer que “um estado de alta entropia é um macroestado que tem muitos microestados correspondentes” é uma forma de derivar a entropia dentro de um modelo dado
      Mas a entropia também pode ser obtida por medições experimentais, e nesse caso o aparato experimental não liga para microestados ou macroestados; ele só tem propriedades como entalpia, capacidade térmica e temperatura
      Depois podemos criar um modelo e dizer que a entropia de certo gás bate com a previsão do modelo de gás ideal, ou que a entropia de certo sólido bate com o que sabemos sobre entropia vibracional
      O mesmo vale para dizer que átomos de hidrogênio são indistinguíveis. Eles não se tornam indistinguíveis porque decidimos assim; é porque, ao calcular a entropia dos dois casos, a realidade não bate com o modelo de átomos distinguíveis
      Quando olhamos apenas para modelos limpos, a classificação de macroestados parece centrada no observador, mas isso não explica por que os valores experimentais de entropia de uma substância são consistentes independentemente do modelo usado pelo experimentador
      Fundamentalmente, a entropia depende de uma distribuição de probabilidade, não do observador
    • O que determina se uma observação é comum? Acho que o que você acabou de dizer é perspicaz e demonstra inteligência
      Isso está longe de ser óbvio para inúmeros estudantes que leram livros introdutórios de física
      Na prática, a entropia muitas vezes foi ensinada de forma errada, e pouquíssimas pessoas a entenderam corretamente, embora eu ache que isso esteja sendo corrigido aos poucos
      O fato de revistas de divulgação científica, documentários e vídeos no YouTube deixarem o público ainda mais confuso é uma evidência adicional
    • Na física, a condição para uma mudança válida de referencial é que as leis da física se transformem de acordo com essa transformação
      Todos os observadores, ao fazer experimentos e usar o método científico, devem descobrir as mesmas leis fundamentais
      Adaptando à sua analogia, dizer que 5 e 6 são iguais só é possível se as regras do jogo puderem ser transformadas dessa maneira, de modo que um observador que os distingue também chegue, em seu próprio referencial, às regras corretamente transformadas
      Considerando que existem objetos como estrelas de nêutrons e buracos negros, em que física quântica e relatividade geral entram em jogo ao mesmo tempo, essa proposição parece bastante fundamental, a ponto de eu até me perguntar se ela não foi expressa de forma forte demais
  • Por muito tempo, eu não tinha intuição sobre o que a entropia realmente representa
    Este vídeo da Veritasium finalmente explicou de um jeito que deu para entender: https://www.youtube.com/watch?v=DxL2HoqLbyA

  • É uma pena que não se mencione a incerteza de Heisenberg, e vejo isso como o limite superior teórico dessa abordagem
    Também é preciso considerar qual é o custo computacional em comparação com o trabalho útil que poderia ser potencialmente obtido desses motores quânticos
    Se o custo energético do cálculo exceder o trabalho útil potencial, ainda será uma perda líquida ou algo inútil
    Por fim, há a questão do espectro entre padrões ocultos e aleatoriedade
    Alguns sistemas são mais aleatórios do que outros, e a possibilidade de obter trabalho útil dentro de um custo razoável de energia computacional diminui à medida que se desce no espectro da aleatoriedade
    Um sistema em que a incerteza de Heisenberg é máxima, isto é, no qual as partículas não estão emaranhadas nem têm correlação com a estrutura superior de outras partículas emaranhadas, não deixa margem para melhoria do conhecimento; portanto, seu trabalho potencial é 0
    Essa é a entropia última dos sistemas locais e macroscópicos, e talvez seja também a causa de certas violações do princípio de conservação de energia, como a energia escura

  • Houve uma thread relacionada no início deste ano
    https://news.ycombinator.com/item?id=41037981 ("What Is Entropy? (johncarlosbaez.wordpress.com)", 209 comentários)

  • O gráfico interativo que tenta mostrar que a entropia é subjetiva não me convence muito
    Ele não define adequadamente o macroestado do sistema em questão e então mostra entropias observadas diferentes para dois macroestados distintos
    Cor para Alice, forma para Bob, por exemplo
    Isso não mostra que a entropia é subjetiva, mas sim que definir o sistema é algo subjetivo
    Para os mesmos dois macroestados, eles ainda teriam a mesma entropia

    • Houve muitas perguntas sobre problemas parecidos, e a maioria girava em torno de “qual é a essência do que significa ser subjetivo”
      O texto aborda um pouco esse ponto, mas não o suficiente, e talvez isso se deva ao estado da literatura
      O artigo de entropia observacional de Safranek et al. foi interessante por mostrar que a escolha da granulação grosseira (coarse graining) em macroestados pode levar a entropias diferentes, mas não trata da questão central de por que escolher uma granulação grosseira ou um macroestado específico em primeiro lugar
      Na literatura de teoria da informação, há um custo informacional, no sentido de complexidade de Kolmogorov, para escolher uma granulação grosseira ou um macroestado específico
      No exemplo do texto, é o custo de escolher formas ou cores para definir a entropia
      Por isso, a entropia observacional parece ser parte de uma entropia ou custo informacional maior, que também inclui o custo informacional da granulação grosseira escolhida
      Isso se conecta novamente à discussão, mais adiante no texto, sobre custo de observação e gargalo de informação, mas o texto e os artigos vinculados não parecem tratar explicitamente e em detalhe dessa questão dos custos diferenciais de macroestados
      Há uma discussão de que existe um custo termodinâmico, mas não fica claro como esse custo se acumula nem por que se adota um macroestado em vez de outro
      Alice e Bob, no exemplo de subjetividade, são definidos por restrições físicas diferentes e podem ser vistos como dois sistemas de observação com restrições distintas
      Por outro ponto de vista, suponha que uma caixa com muitas partículas seja “puramente aleatória”
      Nesse caso, independentemente do que Alice e Bob observem, o que importa é o número de partículas etc.; a entropia em relação à cor depende da quantidade de cores, não das posições das partículas, pois o sistema já está em estado de entropia máxima
      Se você reorganiza as partículas com base em uma determinada propriedade, ambos estão reduzindo a entropia em certa quantidade a partir de um estado puramente aleatório, e imagino que isso possa estar relacionado, de algum modo, à informação necessária para devolver as partículas ao estado puramente aleatório
      O texto traz muitos links para outras áreas da ciência e da matemática, e a parte sobre o custo informacional da observação também se conecta à literatura de matemática e ciência da computação por meio de Wolpert (2008), que abordou o tema do ponto de vista computacional, e depois de Rukavicka
      Na literatura de neurociência também há ideias semelhantes sobre eficiência na redução de entropia, mas não consigo me lembrar agora dos nomes das pessoas envolvidas
      O artigo da Quanta foi realmente muito bom, mas havia bastante nebulosidade em certas áreas, e foi difícil distinguir se isso era nebulosidade da escrita, da própria literatura ou apenas falta de entendimento da minha parte
    • Talvez faça mais sentido pensar em Alice e Bob como espécies alienígenas diferentes
      A espécie de Alice não tem instrumentos de medição capazes de detectar a entropia do lado de Bob e, portanto, Alice não consegue extrair trabalho útil do sistema de Bob, e vice-versa
      Logo, uma definição objetiva de entropia precisa incluir as capacidades do observador
      No fim das contas, é o mesmo que você disse sobre macroestados
    • Você resumiu bem por que isso me incomodou
      Eu não tinha conseguido apontar exatamente, mas é isso mesmo
      Eles confundem definir o sistema com definir a entropia do sistema e então dizem que a entropia é subjetiva
      Não é nada disso. Entropia é simplesmente uma medida
  • Acho que não vi este vídeo da Sabine nos comentários. Pode ser interessante para quem se interessa por entropia na física
    "I don't believe the 2nd law of thermodynamics. (The most uplifting video I'll ever make.)"
    https://m.youtube.com/watch?v=89Mq6gmPo0s
    Eu encontrei a entropia por meio de aprendizado de máquina, teoria da informação e probabilidade
    Para mim ela é bastante intuitiva, interessante e útil, mas não tem nada de misterioso
    Uma função de densidade de probabilidade, ou, dito de forma mais vistosa, um histograma, é o melhor conhecimento atual sobre quantas vezes esperamos que determinado resultado apareça
    Se você faz um experimento uma vez, não tem como saber o resultado; só pode contar o número de resultados diferentes, e não pode ter certeza de exatamente quando qual resultado vai ocorrer
    Uma função de densidade de probabilidade plana significa conhecimento pobre. Todos os resultados são quase igualmente possíveis, e eu sou muito ignorante. Ou seja, a entropia é alta
    Uma função de densidade de probabilidade pontiaguda significa bom conhecimento. Algum resultado é muito mais plausível, e a entropia é baixa
    No extremo, se a função de densidade de probabilidade for um delta de Dirac, isso é conhecimento determinístico
    Algo um pouco interessante é quando uma nova observação reduz o conhecimento
    Por exemplo, digamos que agora eu esteja bastante confiante de que não tenho câncer, e que a probabilidade para minha faixa etária seja 90:10
    Amanhã faço um exame e o resultado dá positivo. Entre as pessoas da minha faixa etária que recebem um resultado positivo, cerca de metade realmente tem câncer
    Depois do exame, minha probabilidade passa a ser 50:50. Agora estou completamente ignorante sobre ter ou não câncer
    Antes do exame, antes de receber o resultado positivo, eu tinha muita certeza de que não tinha câncer, mas a nova informação, o resultado positivo, mudou a probabilidade de câncer de uma probabilidade marginal pontiaguda P_Y(y)={0.9,0.1} para uma probabilidade condicional de completa ignorância P_Y(y|+ve test)={0.5,0.5}
    Este exemplo vem de "How to measure the information gained from one symbol", de DeWeese e Meister: https://pubmed.ncbi.nlm.nih.gov/10695762/

  • Bom texto
    O caráter subjetivo da entropia e da informação remete imediatamente à Teoria da Informação Integrada (IIT) sobre consciência e ao seu esforço fundamentalmente inútil
    Informação não pode ser discutida sem um ponto de vista. Alguém precisa definir os estados
    Que um dado tenha 6 estados só é assim para nós, humanos. E para uma formiga sobre a qual o dado pode cair?
    Trazer o observador de volta para a discussão sobre informação é interessante. Porque então logo vêm as perguntas: “como o observador é constituído?”, “como surge um ponto de vista, isto é, um ‘eu’, em um ser formado por trilhões de células?”
    Se você se interessa por esse desvio, vale a pena ler este texto e o nosso livro mencionado nele
    https://saigaddam.medium.com/consciousness-is-a-consensus-me...

    • Para mim, que sou formado em ciência da computação e tenho bacharelado em física, sempre é interessante que a entropia continue sendo uma medida tão grosseira