Livro sobre deep learning baseado em física
(physicsbaseddeeplearning.org)- Physics-based Deep Learning Book v0.3 é um livro digital que aborda simulação física e deep learning em conjunto, permitindo aprender, por meio de exemplos executáveis, como análise numérica e redes neurais podem ser combinadas
- Na GenAI edition, a modelagem generativa ganhou mais peso, incluindo denoising, flow-matching, autoregressive learning, restrições integradas à física e graph networks baseadas em diffusion
- O escopo de aprendizado começa com aprendizado supervisionado e se expande para restrições de perda físicas, simulações diferenciáveis, abordagens de diffusion, aprendizado por reforço e escolha de arquiteturas de redes neurais
- Os capítulos anunciados tratam de casos próximos a problemas físicos reais, como previsão de escoamento ao redor de airfoils, aprendizado baseado em residual de equações, inverse problem e formas de inserir um simulador no loop de treinamento
- Todos os exemplos de código são centrados em Jupyter Notebook, executáveis e editáveis no navegador, permitindo não apenas ler os conceitos, mas experimentá-los imediatamente
Material de estudo de deep learning para simulação física
- Physics-based Deep Learning Book é um guia prático abrangente sobre deep learning na área de simulação física
- O documento conecta explicações teóricas a Jupyter Notebooks interativos, permitindo executar e verificar cada conceito na hora
- Os principais tópicos abordados são:
- aprendizado supervisionado tradicional
- loss-constraints físicas
- simulações diferenciáveis
- abordagens baseadas em diffusion para IA generativa probabilística
- aprendizado por reforço
- arquiteturas avançadas de redes neurais
- A principal novidade da GenAI edition, na v0.3, é o capítulo sobre modelagem generativa
- denoising
- flow-matching
- autoregressive learning
- physics-integrated constraints
- diffusion-based graph networks
- Também foi adicionada uma seção dedicada a neural architectures projetadas para simulação física, e todos os exemplos de código foram atualizados para usar frameworks recentes
Capítulos previstos e forma de prática
- Os próximos capítulos abordam como prever o escoamento de fluidos ao redor de um airfoil usando diffusion modeling
- Essa abordagem oferece um surrogate model probabilístico que substitui e supera simuladores existentes
- Também inclui métodos para treinar redes a representar soluções usando equações do modelo como residual
- As restrições por residual podem ser aprimoradas com o uso de simulações diferenciáveis
- Aborda como resolver inverse problem interagindo de forma mais estreita com o simulador completo
- Mostra exemplos de como contornar problemas de convergência de técnicas padrão de aprendizado por reforço ao inserir o simulador no loop de treinamento
- A escolha da arquitetura de rede adequada também é um tema central
- interação global e interação local
- representação contínua e representação discreta
- malha de grafo estruturada e malha de grafo não estruturada
- As abordagens de PBDL são apresentadas em ordem crescente de intensidade na integração de modelos físicos ao deep learning
- Também são tratados os pontos fortes, limitações e cenários úteis de cada abordagem
- Os exemplos de código são centrados em Jupyter Notebook, que pode ser executado diretamente no navegador
- É possível executar e modificar os exemplos no Google Colab teaser notebook
- O livro é mantido pelo Physics-based Simulation Group da TUM e também oferece uma coleção de links com artigos de pesquisa recentes
1 comentários
Opiniões no Hacker News
Em uma apresentação densa de visão geral em outubro de 2022, Chris Rackauckas apresentou Scientific Machine Learning com exemplos de várias áreas, como epidemias, ondas gravitacionais, farmacocinética/farmacodinâmica e simulações oceânicas
Ele também aborda bibliotecas Julia de código aberto e proprietárias para SciML, então há muita informação
https://www.youtube.com/watch?v=yHiyJQdWBY8
Parece correto mudar bastante o título. Este não é um livro sobre deep learning baseado em física
Está mais para um livro sobre abordagens de deep learning para problemas de física desenvolvidas por esse grupo de pesquisa, e acho que isso é uma pista muito importante
Além disso, na prática ele é usado para promover fortemente o framework de simulação Phi-Flow deles, então é difícil chamá-lo de um livro que descreve com precisão a área como um todo
Chris tem feito um bom trabalho nesse gênero, e o pacote de equações diferenciais em Julia que dá suporte a física ou Scientific ML também é bem interessante
https://www.stochasticlifestyle.com/the-essential-tools-of-s...
Não consegui encontrar uma forma de baixar o livro inteiro em PDF. O botão de download no topo parece baixar apenas páginas individuais
Pelo que sei, ele foi feito com Jupyter Book, mas também não encontrei nada a respeito na documentação
[1] https://jupyterbook.org/en/stable/intro.html
Bons materiais adicionais incluem as palestras de matemática+ML no YouTube do CRUNCH group, a playlist Physics Informed Machine Learning de Steve Brunton, o livro “Data Driven Science and Engineering” de Steve Brunton e o curso Deep Learning in Scientific Computation da ETH Zurich
YouTube do CRUNCH group: https://m.youtube.com/channel/UC2ZZB80udkRvWQ4N3a8DOKQ
Playlist de Steve Brunton: https://m.youtube.com/playlist?list=PLMrJAkhIeNNQ0BaKuBKY43k...
Aula da ETH Zurich: https://m.youtube.com/playlist?list=PLJkYEExhe7rYY5HjpIJbgo-...
Há também uma discussão anterior de 2021
https://news.ycombinator.com/item?id=28500577