「Estudando Machine Learning por conta própria」
(github.com/teddylee777)1. Objetivo e estrutura do documento
- Este texto é uma coletânea de materiais de estudo que reúne de forma sistemática cursos, blogs, GitHub, artigos acadêmicos, datasets e outros recursos para quem quer estudar machine learning e deep learning por conta própria.
- Não é apenas uma lista de links: também apresenta a ordem recomendada de estudo para iniciantes, junto com o nível de dificuldade e o propósito de uso.
- Abrange uma ampla variedade de temas, de Python a matemática e estatística, machine learning, deep learning, LLMs e prática no Kaggle.
- É mantido como um projeto público no GitHub, com materiais adicionados por vários colaboradores.
2. Ordem de estudo recomendada
- Recomenda-se começar aprendendo a sintaxe de Python, depois seguir para o processamento de dados com NumPy e Pandas e para a visualização com ferramentas como Matplotlib.
- Em seguida, estude álgebra linear, cálculo diferencial, probabilidade e estatística para entender os princípios dos algoritmos de machine learning.
- Na etapa seguinte, estude machine learning tradicional com Scikit-learn e deep learning baseado em TensorFlow e PyTorch.
- Por fim, a estrutura busca desenvolver habilidades práticas por meio de projetos no Kaggle, implementação de artigos acadêmicos e análise de dados reais.
3. Fundamentos de matemática e estatística
- Há uma curadoria de aulas que explicam conceitos matemáticos necessários para estudar IA, como vetores, matrizes, derivadas, derivadas parciais, logaritmo natural e similaridade.
- Na área de estatística, cobre distribuição de probabilidade, distribuição normal, teste de hipóteses, p-value, intervalo de confiança e teoria bayesiana.
- Também inclui materiais sobre AR, MA e ARIMA para análise de séries temporais, além de transformada de Fourier em processamento de sinais e decomposição modal empírica.
- Recomenda-se primeiro materiais introdutórios que ajudam a entender fórmulas complexas com ilustrações e aulas manuscritas.
4. Machine learning tradicional
- Primeiro explica os princípios básicos de como os modelos aprendem, como gradiente descendente, backpropagation e funções de perda.
- Cobre algoritmos representativos como regressão linear, regressão logística, árvores de decisão, KNN, SVM, PCA e análise de clusters.
- Também inclui métodos para reduzir overfitting, como regularização L1 e L2, Lasso, Ridge e ElasticNet.
- Cada tópico oferece aulas conceituais junto com materiais de implementação em Python, conectando teoria e prática.
5. Principais áreas de deep learning
- Organiza os principais modelos de deep learning, começando pela estrutura das redes neurais e seguindo por CNN, RNN, LSTM, GAN e reinforcement learning.
- Em visão computacional, apresenta casos de uso de detecção de objetos, segmentação de imagens, direção autônoma e OpenCV.
- Em processamento de linguagem natural, cobre Word2Vec, BERT, GPT, Transformer, Attention, Seq2Seq e outros.
- Permite aprender não só a usar modelos simples, mas também a entender artigos, implementar código e ajustar hiperparâmetros.
6. Tecnologias recentes de IA e formas de aprendizado
- Apresenta técnicas que encontram automaticamente a estrutura do modelo e seus parâmetros, como AutoML, otimização bayesiana, Hyperband e NAS.
- Meta-learning é uma forma de aprender rapidamente novos problemas, enquanto active learning é uma forma de treinar escolhendo apenas os dados necessários.
- Federated learning treina modelos em conjunto em vários dispositivos, sem reunir os dados em um servidor central.
- Incremental learning e continual learning tratam de métodos para continuar aprendendo novos dados mantendo o conhecimento existente.
7. LLM·LangChain·ChatGPT
- Apresenta agentes de IA como o AutoGPT, que dividem objetivos propostos pelo usuário em várias etapas e os executam automaticamente.
- Por meio de exemplos como KoChatGPT e KoAlpaca, é possível estudar fine-tuning de LLMs em coreano e técnicas como RLHF e LoRA.
- Nos materiais de LangChain, aborda como conectar LLMs a PDFs, sites, CSV·Excel e modelos do Hugging Face.
- Usando a documentação da OpenAI API e o Cookbook, é possível desenvolver serviços de perguntas e respostas, resumo de documentos e análise de dados.
8. Aprendizado prático com Kaggle e Dacon
- Oferece materiais em etapas, desde como começar no Kaggle até uso de datasets, API, processo de participação em competições e soluções vencedoras.
- É possível praticar problemas de classificação e regressão, como Titanic, preços de imóveis, risco de crédito e demanda por bicicletas.
- Também há competições e tutoriais separados por área, como detecção de imagens, processamento de linguagem natural, séries temporais e áudio.
- O ponto central é ganhar experiência em pré-processamento de dados, validação de modelos e melhoria de desempenho em problemas semelhantes aos do trabalho real.
9. Diversas formas de materiais de estudo
- As aulas são compostas principalmente por conteúdos gratuitos ou abertos de plataformas como Coursera, Stanford, T Academy e YouTube.
- Os blogs explicam com mais profundidade temas como matemática, estatística, artigos acadêmicos e processamento de linguagem natural.
- Os repositórios no GitHub incluem Jupyter Notebooks executáveis, códigos de exemplo, modelos pré-treinados e datasets.
- Wikidocs e e-books são adequados para estudar Python, deep learning, algorithmic trading e outros temas em sequência, como em um livro.
10. Open data e ferramentas de desenvolvimento
- Apresenta diversas fontes de dados, como AI Hub, portal de dados públicos, Seoul Open Data Plaza e Papers with Code.
- Organiza bibliotecas por objetivo, com foco em TensorFlow, PyTorch e Scikit-learn.
- Também inclui o PublicDataReader, que consulta dados públicos como DataFrame, além de datasets médicos, de visão e em coreano.
- Há ainda materiais sobre ambientes de desenvolvimento baseados em Docker e configuração de servidores com GPU, úteis para montar um ambiente real de projeto.
11. Comunidades e informações de carreira
- É possível trocar perguntas e informações por meio de comunidades por tecnologia, como TensorFlow Korea, PyTorch KR e Kaggle Korea.
- Entrevistas com cientistas de dados e engenheiros de machine learning em atuação apresentam experiências sobre trabalho, emprego, salário e pós-graduação.
- Também é possível conhecer a possibilidade de entrada para quem não vem da área e as diferenças entre os papéis de data scientist e engenheiro de ML.
- Mostra que, além do aprendizado técnico, portfólio, competições e participação em comunidades são importantes para se preparar para a carreira.
Avaliação principal
| Perspectiva | Conteúdo |
|---|---|
| Natureza do material | Coletânea abrangente de links e materiais práticos para estudar machine learning e IA por conta própria |
| Principais vantagens | Abrange desde fundamentos até LLMs recentes e tem muitos materiais gratuitos |
| Leitores indicados | Iniciantes em IA, desenvolvedores, analistas de dados e quem se prepara para o Kaggle |
| Forma de uso | Em vez de ver todos os materiais em sequência, escolher uma trilha de estudo de acordo com a área de interesse |
| Atenção | Alguns materiais são antigos, por isso é necessário verificar as versões das bibliotecas e se as tecnologias ainda são atuais |
2 comentários
Oh~~ gostei desse tipo de coisa~!
Uau, obrigado pelo material incrível!