11 pontos por jhj0517 2025-01-08 | 7 comentários | Compartilhar no WhatsApp

NVIDIA revela o DIGITS, supercomputador pessoal de IA com 128 GB de RAM baseada em LPDDR5X

  • A NVIDIA revelou, na CES realizada em Las Vegas em 7 de janeiro de 2025 (horário local), o DIGITS, um supercomputador pessoal de IA com 128 GB de RAM
  • O DIGITS vem equipado com o novo superchip NVIDIA GB10 Grace Blackwell da NVIDIA
  • O objetivo da NVIDIA é permitir que todos os cientistas de dados, pesquisadores de IA e estudantes participem da era da IA, colocando um supercomputador de IA em cada mesa

Desempenho do novo superchip GB10 da NVIDIA

  • O superchip GB10 é um "sistema em chip" (SoC) baseado na arquitetura NVIDIA Grace Blackwell e oferece capacidade de computação de até 1 petaflop (PetaFlop, 10¹⁵/s, 1 quatrilhão de operações por segundo) com precisão FP4
  • O GB10 traz uma GPU NVIDIA Blackwell com núcleos CUDA® de última geração e Tensor Cores de 5ª geração
  • Ele se conecta, por meio da interconexão chip-to-chip NVLink®-C2C, a uma CPU com 20 núcleos baseada na arquitetura Arm
  • A MediaTek, líder de mercado em design de SoCs baseados em Arm, colaborou no projeto do GB10

Especificações gerais do supercomputador pessoal de IA DIGITS

  • O DIGITS conta com 128 GB de memória unificada e coerente (unified, coherent memory) e até 4 TB de armazenamento NVMe
  • Aqui, memória unificada e coerente é um conceito diferente da VRAM da GPU; o DIGITS usa chips LPDDR5X para compor os 128 GB de memória
  • Pode executar LLMs com até 200B (200 bilhões) de parâmetros
  • Também é possível conectar dois supercomputadores de IA DIGITS via NVIDIA ConnectX® Networking para executar LLMs com até 405B parâmetros

Data de lançamento e preço

  • O DIGITS poderá ser comprado a partir de maio deste ano, por meio dos principais parceiros da NVIDIA, com preço inicial de $3000 (437 mil wones com base na taxa de câmbio de 08/01/2025)

Estimativa da largura de banda de memória (velocidade) do DIGITS

  • A largura de banda de memória é um dos principais indicadores usados para estimar a velocidade de uma GPU
  • Especificações detalhadas do DIGITS, incluindo a largura de banda de memória, ainda não foram divulgadas
  • Um artigo estima, com base em uma imagem divulgada pela NVIDIA, que o DIGITS parece vir com 6 módulos LPDDR5X, chegando assim a uma largura de banda de memória de 825 GB/s
  • Isso é 2,3 vezes mais rápido que os 360 GB/s da RTX 3060 e 0,8 vez mais lento que os 1008 GB/s da RTX 4090, o que representa um desempenho bastante respeitável considerando os 128 GB de RAM
  • No entanto, isso não passa de uma estimativa individual ainda pouco clara, e o desempenho detalhado só poderá ser conhecido quando as especificações completas forem divulgadas

7 comentários

 
mintfrape 2025-02-06

kkk, 128 GB de memória de sistema comum e chamam isso de supercomputador..?
Até o meu Shih Tzu dá risada, senhor Huang.
O preço, quando receber o patch da Coreia, vai fácil pra 600…

 
nuthatch 2025-01-09

Nesse caso, qual sistema operacional seria usado?

 
reagea0 2025-01-10

Deve ser Linux, né? Ubuntu.

 
hided62 2025-01-09

Por assim dizer... comparando com um modelo com gráficos integrados de alto desempenho da AMD (algo como o 8840HS)..

  • como é da NVIDIA, tem CUDA,
  • não é x86, e sim ARM.
    É isso, né?
 
scari 2025-01-09

Parece estar numa proposta parecida com a do M4 Mac mini, mas aqui, em vez de ser de uso geral, dá a sensação de ter um custo-benefício melhor.

 
jujumilk3 2025-01-09

À parte, será que ele também roda jogos bem?

 
jhj0517 2025-01-09

Como é diferente de uma GPU comum, com coisas como 128GB de memória unificada e coerente, não sei bem como isso vai se sair!
Em outros posts, há comentários de que não deve ser adequado para jogos: https://dirox.com/post/nvidia-project-digits