Wenig überraschend: TDP von Datacenter-CPUs und GPUs werden steigen

[HWL News Bot]

Eine geleakte Präsentation der Server-Sparte von Gigabyte führt die Leistungsaufnahme einiger Server-Komponenten auf und geben einen Ausblick darauf, was uns in den kommenden Jahren in diesem Bereich erwarten wird. Größtenteils sind die Daten aber bereits zu erwarten gewesen – auch weil die Hersteller dies bereits so angekündigt hatten.
... weiterlesen

 

[Richard88]

Die leistungadichte steigt massiv, mittlerweile limitiert die kühlung, da die arbeitstiere integrierter werden. Was früher mehrere zusatzksrten und chips braicht, kommt heute alles vom selben SOC. Das stellt herausforderungen.

 

[Oberst]

Der aktuelle AI-Trend und die immensen Anforderungen an die Rechenleistung für das Training großer AI-Netzwerke führt zu einem wahren Boom in diesem Hardware-Segment. NVIDIA ist einer der größten Profitöre, während von AMD derzeit recht wenig zu hören ist. Der MI300-Beschleuniger ist noch nicht wirklich verfügbar, während NVIDIA bereits tausende H100 ausgeliefert hat.

Naja, AMD hat zwar prinzipiell einen etwas anderen Fokus als NVidia, aber bei Azure gibt's Nodes mit A100 oder MI250, die bieten beide Hersteller. H100 war letztes mal, als ich geschaut hatte noch nicht verfügbar.
Aber ich wäre auch vorsichtig mit der Behauptung, NVidia hat bereits tausende H100 ausgeliefert, während von MI300 noch nichts zu hören ist. Denn MI300 wird in El Capitan verwendet, und der wird vermutlich alleine tausende MI300 verwenden, ist gerade im Aufbau. Insofern könnte es durchaus sein, dass MI300 von den Auslieferungen gar nicht so viel anders als H100 ist, nur hat man davon halt noch nicht so viel gehört, da NDA. Gerade das Thema HPC zeigt, wie schnell es gehen kann. Vor ein paar Jahren, war NVidia der Technologieführer im HPC Markt, jeder zweite Supercomputer hatte NVidia's Karten drin. Inzwischen setzen die großen immer mehr auf die Konkurrenz. Wenn NVidia da nicht aufpasst, dann zieht die Konkurrenz irgendwann auch im Gesamtmarkt vorbei.