- Curso de desenvolvimento de redes neurais criado por Andrej Karpathy, ex-chefe de IA da Tesla
- Vai do básico de backpropagation até o desenvolvimento de redes neurais profundas modernas, como o GPT
- Modelos de linguagem são ótimos para aprender deep learning. Mesmo ao expandir depois para áreas como visão computacional, a maior parte do que for aprendido poderá ser aplicada imediatamente
Syllabus
- (2h25m) Introdução detalhada a redes neurais e backpropagation: construindo o micrograd
- (1h57m) Introdução detalhada à modelagem de linguagem: construindo o makemore
- (1h15m) Construindo o makemore Parte 2: MLP
- (1h55m) Construindo o makemore Parte 3: Ativações & Gradientes, BatchNorm
- (1h55m) Construindo o makemore Parte 4: Tornando-se um ninja de backprop
- (56m) Construindo o makemore Parte 5: Construindo um WaveNet
- (1h56m) Vamos construir o GPT: do zero, em código, detalhadamente.
2 comentários
Sim
Na semana passada, eu só tinha postado o link de Let's build GPT - Vamos criar o GPT do zero [vídeo no YouTube],
mas pelo visto isso era só uma parte do curso completo.