Ask HN: Há materiais que você recomendaria para um engenheiro de software que quer acompanhar as tendências mais recentes em IA?

• Um engenheiro de software que usa o ChatGPT quase todos os dias e cuja última experiência com a API da OpenAI foi com o GPT-3.5 no ano passado está procurando materiais para acompanhar rapidamente os fluxos mais recentes da IA
• Quer blogs técnicos que permitam se manter constantemente atualizado sobre notícias relacionadas à IA, como no HN
• Encontrou o simonwillison.net, mas sentiu que o conteúdo parece fragmentado

[GN⁺]

Opinião do Hacker News

• É mais importante aprender a usar os modelos e entender como eles funcionam do que aprender a treiná-los

  • Recomenda o "Hacker's Guide to LLMs", do Jeremy, e o "State of GPT", do Karpathy
  • Os vídeos de visualização sobre LLMs e transformers do 3b1b também são úteis
  • Também vale a pena conferir vídeos sobre o processo de treinamento do ChatGPT e uma visão geral de IA
  • A forma como Nicholas Carlini usa LLMs também é interessante
  • Recomenda seguir no X/Twitter e no Bluesky pessoas da OpenAI, Anthropic, Google DeepMind e xAI para obter informações mais recentes
  • Também recomenda podcasts como "No Priors", "Generally Intelligent", "Dwarkesh Patel" e "Sequoia's Training Data"

• Participar de competições do Kaggle ajudou a ganhar uma compreensão mais intuitiva sobre IA

  • Ter um objetivo específico e um conjunto de dados fornecido torna a resolução de problemas mais fácil
  • O blog do Simon é útil para engenheiros de software

• Está estudando visão computacional por meio da playlist do YouTube da "OpenCV University"

  • Obteve uma compreensão aprofundada de CNNs e está aplicando isso em projetos recentes
  • É uma trilha de aprendizado de fácil acesso, mesmo para quem não tem uma base forte em matemática

• Atualizar-se diariamente ou semanalmente pode ser ineficiente

  • É melhor se atualizar uma vez a cada 6 a 12 meses

• Trabalha diretamente com modelos de ponta e escreve um guia prático

  • Inclui conceitos, código de exemplo e links para materiais de estudo

• Fornece materiais sobre os princípios básicos de LLMs e redes neurais

  • Falta compreensão sobre o software mais recente para placas de vídeo
  • A dependência de GPUs é alta, e várias abordagens de machine learning estão sendo negligenciadas
  • São necessárias linguagens e hardware melhores para democratizar a IA

• Acompanha materiais do Matt Berman, resumos de notícias de IA e Rick Lamers

  • Também recomenda os novos cursos curtos do FreeCodeCamp

• Para se manter atualizado, recomenda os subreddits de Stable Diffusion e Local Llama em vez de blogs técnicos

  • O canal do YouTube de Andrej Karpathy também é útil