Project Digits da Nvidia, o “supercomputador de IA pessoal”

• Apresentação do Project Digits da Nvidia

  • No CES 2025, a Nvidia apresentou o Project Digits, o "supercomputador de IA pessoal"
  • Disponibiliza a plataforma de hardware Grace Blackwell em formato compacto
  • É uma plataforma de computação em nuvem capaz de executar toda a pilha de software de IA da Nvidia

• Características técnicas do Project Digits

  • Foi projetado para pesquisadores de IA, cientistas de dados e estudantes
  • Com o GB10 Grace Blackwell Superchip, oferece até 1 petaflop de desempenho de computação
  • Pode executar modelos com até 200 bilhões de parâmetros
  • É composto por uma GPU Nvidia Blackwell desenvolvida em parceria com a MediaTek e uma CPU Nvidia Grace de 20 núcleos
  • Oferece 128 GB de memória e até 4 TB de armazenamento em flash

• Escalabilidade e preço

  • Ao conectar dois Project Digits, é possível executar modelos com até 405 bilhões de parâmetros
  • Pode oferecer uma experiência independente ou ser conectado a PCs com Windows ou Mac
  • O preço começa em US$ 3.000 e, a partir de maio, será possível comprar por meio de "principais parceiros"

• Mercado e visão

  • O CEO da Nvidia, Jensen Huang, disse que o Project Digits colocaria um supercomputador de IA para milhões de desenvolvedores
  • Apoia cientistas de dados, pesquisadores de IA e estudantes para que possam ajudar a moldar a era da IA

• Outras informações

  • Atualizações adicionais relacionadas ao anúncio da Nvidia no CES 2025 estão previstas
  • O artigo foi escrito por Kyle Wiggers, da TechCrunch

[berry]

Espero que o desempenho também fique bom como prometido e que a manutenção também seja bem feita.

[GN⁺]

Opinião no Hacker News

• O Nvidia Jetson Nano se tornou obsoleto depois de 4 anos desde o lançamento, quando o suporte foi interrompido. Como foi lançado com base no Ubuntu 18.04 e não recebeu atualizações depois disso, a stack de Machine Learning também ficou obsoleta. Não vou comprar SBCs da Nvidia a menos que o suporte de software seja integrado ao kernel do Linux.
• Com o aumento do interesse em IA e LLM, a Nvidia pode acabar invadindo o mercado de desenvolvedores de IA da Apple. Eu queria ter ações da Nvidia.
• O DGX OS 6 é baseado no Ubuntu 22.04 e inclui atualizações recentes de hardware e segurança. Ele suporta GPU Direct Storage e permite acesso a todas as versões dos drivers de GPU da Nvidia e do toolkit CUDA.
• O valor da Nvidia é incomparável com soluções em nuvem, especialmente quando se trata de dados pessoais ou segredos corporativos, manter os dados sem que saiam para fora é essencial.
• A Nvidia lançou um supercomputador desktop Linux com melhor custo-benefício do que o Wintel, e a nova stack de software roda apenas no WSL2.
• O IBM Roadrunner foi o primeiro supercomputador a atingir desempenho de 1 petaflop, e o Project Digits da Nvidia oferece 1 petaflop para execução de modelos de IA.
• No mercado de bioinformática, a Illumina usa o chip DRAGEN para acelerar a análise genômica, enquanto a Oxford Nanopore usa GPUs, mas o desempenho é limitado por restrições de tamanho e energia.
• A Nvidia lançou um dispositivo de inferência local de 128 GB com baixo custo que pode ameaçar o ecossistema CUDA ao fazer o que Intel/AMD deveria ter feito.
• Essa imagem parece ter sido gerada por IA.
• O novo produto da Nvidia não é um simples periférico, mas um computador completo rodando Linux. No futuro, é possível que todas as pessoas venham a possuir esse tipo de dispositivo.