Werbung
Innerhalb von zwei Tagen haben Micron und Samsung unabhängig voneinander die baldige Verfügbarkeit von HBM3E angekündigt, der einerseits größere Kapazitäten, aber auch eine höhere Bandbreite bieten soll. Beide Unternehmen proklamieren für sich, bei der HBM3E-Technik Vorreiter zu sein, im Grunde aber liegen beide Hersteller in den wichtigsten Aspekten wie Kapazität und Bandbreite in etwa gleichauf.
Die Hersteller stapeln inzwischen 12 DRAM-Speicherschichten und kommen damit auf Kapazitäten von 36 GB pro Chip. Im Falle der H100-GPU mit sechs HBM-Chips kann die Kapazität auf 216 GB gesteigert werden. Micron wirbt damit, dass der eigene Speicher auf NVIDIAs H200-GPU zum Einsatz kommen wird – allerdings noch in der Variante mit 24 GB. Beim H200-Beschleuniger handelt es sich um die aktualisierte Variante der H100-GPU – eben mit dem schnelleren HBM3E ausgestattet. Angekündigt wurden die H200- und GH200-Beschleuniger mit 141 GB.
| GH200 | GH200 (2024) | H100 SXM | H200 SXM | |
| FP64-Rechenleistung (GPU) | 34 TFLOPS | 34 TFLOPS | 34 TFLOPS | 34 TFLOPS |
| FP32-Rechenleistung (GPU) | 67 TFLOPS | 67 TFLOPS | 67 TFLOPS | 67 TFLOPS |
| FP8-Rechenleistung (GPU) | 3,958 TFLOPS | 3,958 TFLOPS | 3,958 TFLOPS | 3,958 TFLOPS |
| INT8-Rechenleistung (GPU) | 3,958 TOPS | 3,958 TOPS | 3,958 TOPS | 3,958 TOPS |
| CPU-Speicher | 480 GB (LPDDR5X) | 480 GB (LPDDR5X) | - | - |
| GPU-Speicher | 96 GB (HBM3) | 141 GB (HBM3E) | 80 GB (HBM2E) | 141 GB (HBM3E) |
| Speicherbandbreite (GPU) | 4 TB/s | 4,9 TB/s | 3,35 TB/s | 4,8 TB/s |
| TDP | 450 bis 1.000 W | 450 bis 1.000 W | bis zu 700 W | bis zu 700 W |
Während Micron und Samsung in der Kapazität mit 36 GB auf Augenhöhe arbeiten, hat Samsung einen kleinen Vorteil bei der Speicherbandbreite. Hier sind es 1.280 GB/s, während die Chips von Micron 1.178 GB/s anzubieten haben. In der Praxis dürfte dies allerdings keine Rolle spielen.
Auch Sk hynix will schnelleren und größeren HBM3E anbieten, hier will man allerdings bis zu 48 GB pro Chip liefern. Die Speicherbandbreite ist mit 1.280 GB/s identisch.
Beide Hersteller beginnen ab sofort mit dem Sampling. Micron arbeitet hauptsächlich mit NVIDIA zusammen, an wen Samsung seine Chips verschickt, ist nicht bekannt. Später in der ersten Jahreshälfte will Samsung mit der Massenproduktion beginnen. Ein möglicher Einsatzbereich des HBM3E mit 36 GB sind die B100- und GB200-Beschleuniger von NVIDIA, die in diesem Frühjahr vorgestellt werden könnten. Mit einer Verfügbarkeit wäre dann in der zweiten Jahreshälfte zu rechnen.