O MI455X tem 24 módulos LPDDR5X integrados.

1. Há informações de que isso será usado para cache KV.
2. As especificações são especulação, mas como a Samsung já promoveu LPDDR5X de 64 GB a 8533, o máximo poderia chegar a 1,63 TB/s. (1536 bits, 1,5 TB)
3. No Vera Rubin, o Vera usa capacidade de 1,5 TB e 1,2 TB/s para dois Rubins, enquanto na AMD um Venice é compartilhado por 4 aceleradores. A capacidade é desconhecida, mas se forem 16 módulos de 128 GB seriam 2 TB; a largura de banda é conhecida como 1,6.

[kunggom]

Então é assim que a memória, sugada direto da fábrica, acaba soldada na placa desse jeito.

[badaim]

As especificações da Instinct são HBM4 de 432 GB e largura de banda de 19,6 Tb/s, mas também fico com a impressão de que a capacidade de cache parece grande em relação à capacidade total. Se quiser saber outras especificações (rede etc.), posso informar.