Processadores da série Ryzen Pro 8000 para notebooks e workstations
- Baseados na atual série 8040, codinome 'Hawk Point'
- Primeiros no mercado corporativo a trazer NPU para cargas de trabalho de IA
- A AMD afirma ter vantagem de desempenho de NPU sobre a Intel (16 TOPS vs 11 TOPS)
- Os processadores desktop APU da série 8000 também trazem NPU de 16 TOPS
Ecossistema de IA e parcerias
- O ecossistema de IA ainda está em estágio inicial
- A AMD pretende estabelecer mais de 150 parcerias com ISVs até 2024
- A Intel atualmente tem 100 parcerias com ISVs/IHVs
Especificações detalhadas da série Ryzen Pro 8040
- Séries U e HS com faixa de TDP de 15~54W
- Mesmo clock máximo em modelos de 6/8 núcleos, e apenas o Ryzen 5 Pro 8540U não inclui NPU
- A AMD afirma ter mais de 30% de vantagem de desempenho sobre a Intel (atenção aos benchmarks)
Especificações detalhadas da série APU Ryzen Pro 8000
- Baseada na série 8000G para consumidores
- 4/6/8 núcleos, versões de 45~65W e também de baixo consumo de 35W
- A AMD afirma ter até 3x vantagem em desempenho gráfico sobre a Intel
Tecnologia AMD Pro
- Pro Security, Pro Manageability, Pro Business Ready etc.
- Suporte aos mesmos recursos em toda a linha de produtos (diferenciando-se da Intel)
Opinião do GN⁺
- Integrar uma NPU em processadores profissionais é uma inovação digna de nota. Com o uso de IA se espalhando rapidamente, a AMD parece ter se antecipado ao movimento.
- No entanto, como o ecossistema de aplicativos que usam NPU ainda é imaturo, pode ser difícil perceber ganhos reais de desempenho. A expansão das parcerias com ISVs será crucial.
- Embora a AMD afirme ter vantagem sobre a Intel, ainda é necessária validação com benchmarks objetivos. Também faz falta uma comparação com a série M da Apple.
- Em recursos voltados a profissionais e no suporte às tecnologias Pro, parece haver elementos de diferenciação. A competitividade geral da plataforma parece boa.
- Resta acompanhar até que ponto a AMD conseguirá abalar a fortaleza da Intel no mercado corporativo. Isso provavelmente dependerá da expansão do ecossistema e de um roadmap de longo prazo.
2 comentários
Sem CUDA, parece que não dá para virar o jogo, não importa o que se faça... Pelo que eu sei, até aquele projeto anterior de wrapping de CUDA foi abandonado... snif
Opiniões do Hacker News
Os chips da série M da Apple mostraram que o modelo de memória unificada, com a memória no mesmo pacote da CPU e oferecendo alta largura de banda, é muito poderoso. Por isso, muitas pessoas da comunidade de LLMA passaram a preferir Macs com grande capacidade de memória.
É bom ver que os novos núcleos Ryzen incluem uma NPU, mas fica a dúvida se a abordagem da AMD, usando memória fora do die, será tão eficaz quanto a da Apple.
Ver esse tipo de recurso em produtos que não são placas caras da NVIDIA é um grande avanço. Uma NPU local pode ajudar a implantar mais recursos de videoconferência e afins na borda.
A arquitetura Zen4 é muito bonita. Ela faz bastante uso de APUs, e também é possível executar código arbitrário nos núcleos de GPU. Só que a pilha de software ainda não está totalmente pronta.
A NPU Ryzen AI ainda não foi integrada aos principais frameworks de inferência, então por enquanto é apenas área de silício sem utilidade.
Cada fornecedor tem seu próprio hardware, então o suporte de ferramentas é fraco e, mesmo quando existe, acaba sendo usado só em alguns softwares. Ao mesmo tempo, isso ocupa área do die e recursos.
Fica a dúvida se a NPU poderá ser tratada pela pilha de LLM do PyTorch. O significado de NPU varia muito conforme o dispositivo e o fornecedor.
Os novos produtos lançados desta vez têm no máximo 8 opções de núcleo, o que passa a sensação de retrocesso em comparação com os 12/16 núcleos dos modelos anteriores 5900X e 5950X.
Focar em TOPS não combina com a realidade dos LLMs. Sem largura de banda de memória suficiente, TOPS não significa nada. Parece ser memória dual-channel, não quad-channel.