Introdução ao aprendizado estatístico com Python
(statlearning.com)- Em um cenário em que a escala da coleta de dados cresce cada vez mais, An Introduction to Statistical Learning aborda o aprendizado estatístico como uma ferramenta prática de introdução para compreender dados
- Em vez de matemática complexa, o foco está em uma explicação ampla e menos técnica, voltada a leitores que querem aprender ferramentas modernas de análise de dados
- A edição aplicada em R teve a 1ª edição em 2013 e a 2ª em 2021, e a edição em Python (ISLP) foi publicada em 2023
- Cada edição conecta os conceitos de cada capítulo a código em R ou Python por meio de labs práticos ao final dos capítulos
- São fornecidos links para download em PDF e compra, permitindo que iniciantes escolham entre a 1ª edição em R, a 2ª edição em R e a edição em Python conforme a necessidade
Foco do livro introdutório sobre aprendizado estatístico
- An Introduction to Statistical Learning parte do contexto em que a escala e o alcance da coleta de dados continuam crescendo em praticamente todas as áreas
- O aprendizado estatístico é tratado como um conjunto de ferramentas necessário para quem deseja compreender dados
- Ao cobrir os principais tópicos de forma ampla e com menor dificuldade técnica, a obra se torna acessível para leitores que querem usar ferramentas modernas de análise de dados
Edições, prática e materiais
- As edições se dividem entre R e Python
- ISLR 1ª edição é a edição aplicada em R, publicada em 2013
- ISLR 2ª edição foi publicada em 2021
- ISLP é a edição em Python, publicada em 2023
- O ISLR foi traduzido para chinês, italiano, japonês, coreano, mongol, russo e vietnamita
- Ao final de cada capítulo, há labs que mostram os conceitos daquele capítulo em R ou Python
- Os tópicos abordados nos capítulos são os seguintes
- O que é aprendizado estatístico
- Regressão
- Classificação
- Métodos de reamostragem
- Seleção de modelos lineares e regularização
- Métodos além da linearidade
- Métodos baseados em árvores
- Máquinas de vetores de suporte
- Deep learning
- Análise de sobrevivência
- Aprendizado não supervisionado
- Testes múltiplos
- Os materiais em PDF são fornecidos nos links a seguir
1 comentários
Comentários do Hacker News
Fugindo um pouco do assunto, a proporção entre votos e comentários é interessante
Posts sobre ChatGPT normalmente recebem centenas de comentários, mas aqui até agora são só 100 votos e 7 comentários
O livro parece bom e, pelos autores, parece quase certo que é bom mesmo, então estou pensando em comprar, mas essa proporção parece mostrar o estado atual de “ML/AI/ciência de dados”. Dá uma sensação cínica de que muita gente interessada no hype de IA não trabalhou muito com os conceitos fundamentais e não entende profundamente a matemática/estatística por trás
Dito isso, eu mesmo também não deixei um comentário significativo sobre o tópico deste link
https://github.com/melling/ISLR
Também há um curso no edX feito pelos autores: https://www.edx.org/course/statistical-learning
Livros assim são essenciais para começar em aprendizado de máquina/IA, e este livro em especial é muito bom. Eu também comecei em aprendizado de máquina com ele
Há um superaquecimento enorme em IA e parece que vai virar algo como a bolha pontocom. Ao contrário de Crypto, IA já tem usos reais, e isso vale mesmo deixando os produtos com LLM de lado. Ainda assim, há muito exagero e expectativa misturada com esperança, então quando a bolha estourar muita gente vai se machucar. Mesmo assim, no curto prazo vai continuar surgindo gente ganhando dinheiro de verdade, e os incentivadores do hype que eu conheço entendem isso muito bem
Ainda assim, a IA vai permanecer, e mesmo depois que a bolha estourar o uso real de IA vai continuar espalhado por toda parte
Entendo esse sentimento, mas em muitos usos de aprendizado de máquina, em vez de criar um modelo diretamente, chamar a API do ChatGPT muitas vezes é uma abordagem 100 vezes melhor, então talvez realmente não haja necessidade de entender a matemática
Por exemplo, estou criando um app de cálculo nutricional com IA e uso function calling do ChatGPT. Se eu adicionar campos como emoji de comida, ele classifica automaticamente qualquer alimento com o emoji apropriado. Para fazer isso, não é preciso saber nada de descida do gradiente nem de propriedades básicas
Isso já acontece há alguns anos e, na maioria dos ambientes de trabalho, causa um efeito ruim. Não invejo os cientistas de dados em produção que precisam gerenciar expectativas
No HN há quase só hype e pouca ciência. Muita convicção, pouca evidência. As pessoas adoram citar artigos, mas leem só o resumo e perdem as nuances centrais. Isso é ainda mais forte numa área em que apontar limitações pode aumentar o risco de rejeição, e os revisores às vezes simplesmente copiam e colam essa parte e encerram o trabalho dizendo que fizeram sua parte
A academia é um pouco melhor, mas no geral há muitos pesquisadores com base matemática fraca. Já conheci ou soube de pessoas até em universidades ou institutos de ponta que não sabem a diferença entre verossimilhança e probabilidade. Também há gente que não entende densidade de probabilidade, inclusive entre os que trabalham com modelos de difusão. Ainda assim, os pesquisadores mais destacados em geral têm essa competência. Em compensação, eles não publicam artigos tão rápido e seus trabalhos podem acabar sendo menos populares
Hoje muita pesquisa está concentrada em ajuste de hiperparâmetros e injeção de recursos computacionais. Reconheço que tuning é necessário, mas isso não representa grande inovação, e é preciso ser honesto sobre como é difícil provar que algo é melhor quando outros modelos/arquiteturas não foram ajustados no mesmo nível. Tenho me manifestado um pouco porque essa tendência vira uma barreira que bloqueia outros tipos de pesquisa
Em resumo, isso é bastante preciso. Em aprendizado de máquina/IA, especialmente no HN, há ruído demais
Além disso, recomendo Statistical Rethinking, de Richard McElreath (https://xcelab.net/rm/statistical-rethinking/). A leitura é mais divertida do que ISLR e também apresenta estatística bayesiana (as aulas também estão no YouTube). Também recomendo Regression and Other Stories, de Gelman (https://avehtari.github.io/ROS-Examples/)
Este livro é uma versão atualizada de um material didático muito popular que originalmente era em R. Os professores Hastie e Tibshirani são educadores de referência na área de aprendizagem estatística
Também há aulas em vídeo na Stanford Online acompanhando essas notas. Se você quer aprender os aspectos teóricos do aprendizado de máquina clássico, recomendo fortemente
Dá para baixar o livro inteiro legalmente aqui [pdf]: https://hastie.su.domains/ISLP/ISLP_website.pdf
ISL é o melhor material introdutório para métodos clássicos de aprendizado de máquina. É voltado à teoria, mas ainda assim acessível o bastante para um público amplo de estudantes com conhecimentos básicos de estatística, álgebra linear e programação
O fato de os exemplos existirem só em R era inconveniente para ensinar com Python. Agora seria bom se migrassem para uma série de notebooks Jupyter e distribuíssem via algo como o Colab
Alguns podem chamar isso de aprendizado de máquina “clássico”, mas, para mim, esses métodos com poucos parâmetros em muitos casos são muito úteis e bem mais fáceis de interpretar do que RNNs
Eu tentei comparar as duas versões do lab zero
Só dei uma passada rápida na prática em Python por alguns minutos, mas, comparada à prática em R de que me lembro, ela parecia muito mais complexa e longa
Sei que no HN o pessoal reclama com frequência que R é difícil e confuso, mas acho que, para iniciantes ou para quem tem um perfil mais voltado à estatística, R é uma linguagem mais fácil para começar a fazer trabalho estatístico
Isso não é surpreendente quando se olha para o público-alvo pretendido de cada linguagem. Acho melhor aceitar as duas e usar a que fizer mais sentido para a tarefa em questão
Pessoalmente, prefiro mais o Pattern Recognition and Machine Learning do Bishop ou o Probabilistic Machine Learning: An Introduction do Murphy
Por isso, parece bem significativo que o ISLA esteja sendo traduzido. Se um aluno já aprendeu suficientemente bem modelagem estatística/aprendizado de máquina, então deveria ser relativamente fácil transformar um modelo matemático em um modelo computacional, então o código não é necessariamente indispensável. Na verdade, para dizer que entende esses modelos, deveria ser capaz de fazer isso
Também queria acrescentar Elements of Statistical Learning, dos autores de ISL(R/P). Li ISL, ESL e Bishop, e comecei Murphy, mas não terminei. Não houve nenhum motivo especial; só deixei de lado quando fiquei ocupado. Recomendo fortemente qualquer um desses livros didáticos
Nesse caso, você ainda recomendaria Bishop, ou ele é teórico demais?
Também vale considerar Nonparametric Statistics for the Behavioral Sciences, Second Edition, de Sidney Siegel e N. John Castellan, Jr., ISBN 0-07-057357-3, McGraw-Hill, New York, 1988
“Não paramétrico” significa que não se assume uma distribuição de probabilidade baseada em parâmetros. Ou seja, pode-se chamar de livre de distribuição
Por exemplo, você pode olhar para esquemas de reamostragem. As premissas são muito pequenas, é realmente simples, bastante engenhoso e útil no geral, além de combinar especialmente bem com computação. Também é possível usar reamostragem para extrair mais informação de dados de testes “A-B”
Se forçar uma distinção, dá para dizer que o ISLR é mais focado em previsão do que em inferência ou teste de hipóteses
Eu realmente gostei da série no YouTube que saiu junto com a versão anterior deste livro: https://www.youtube.com/watch?v=5N9V07EIfIg&list=PLOg0ngHtcq...
Dá para assistir mesmo sem o livro, e você pode pular as partes de código. Há insights que não estão no livro, e é uma ótima combinação de enorme competência técnica com a capacidade de condensar e explicar conceitos
Para mim, é um pouco prolixo. Se Landau estivesse vivo e reescrevesse esse tipo de livro, acho que ficaria muito mais curto. Será que dá para fazer isso com LLM?