- Curso gratuito e open source para aprender, passo a passo, a tecnologia de executar modelos de IA diretamente em dispositivos de borda
- O objetivo é executar modelos de IA diretamente no dispositivo, e não na nuvem, para alcançar menor latência, proteção de privacidade, redução de custos e menor dependência de rede
- Os alunos podem concluir projetos práticos como deploy de SLM, construção de sistemas multiagente, implementação de pipelines RAG locais e roteamento de modelos, aprendendo técnicas de implantação em ambientes Windows, mobile, embarcados e híbridos
- Explica de forma prática como melhorar o desempenho com ferramentas-chave de otimização como Llama.cpp, Microsoft Olive, OpenVINO e Apple MLX, incluindo ganhos de performance (até 85% mais velocidade e 75% de redução no tamanho do modelo)
- Currículo (tempo total estimado: 36–45 horas)
- 0. Visão geral de EdgeAI e introdução aos objetivos de aprendizagem (iniciante: 1–2 horas)
- 1. Conceitos básicos e casos de uso de IA de borda (nível básico: 3–4 horas)
- 2. Estrutura e famílias de modelos SLM (nível básico: 4–5 horas)
- 3. Prática de deploy local e em nuvem (nível intermediário: 4–5 horas)
- 4. Toolkit de otimização de modelos (Llama.cpp etc.) (nível intermediário: 5–6 horas)
- 5. SLMOps e fine-tuning (nível avançado: 5–6 horas)
- 6. Agentes de IA e Function Calling (nível avançado: 4–5 horas)
- 7. Implementação cross-platform (nível avançado: 3–4 horas)
- 8. Projeto de exemplo Foundry Local (especialista: 8–10 horas)
Ainda não há comentários.