Lenovo ThinkSystem SR685a V3: AMDs Instinct MI300X soll endlich durchstarten

[HWL News Bot]

Im vergangenen Dezember stellte AMD seine KI- und HPC-Beschleuniger Instinct MI300X und MI300A final vor. So langsam sollen die entsprechenden Beschleuniger in größeren Stückzahlen verfügbar sein, denn bisher könnte man durchaus den Eindruck gewinnen, dass AMD den aktuellen KI-Hype weitestgehend verpasst hat. Allenfalls durch eine überhaupt vorhandene Verfügbarkeit im Vergleich zu den H100- und H200-Beschleunigern von NVIDIA wird man punkten können.
... weiterlesen

 

[Sir Diablo]

Das mit den nicht vorhandenen Leistungsdaten wundert schon etwas. Wäre ja nicht allzu schwer, die selben LLMs auf einer MI300 und einer H100 laufen zu lassen und die Token/s zu vergleichen.

Aber was weiß ich schon.

 

[Icke-ffm]

Das mit den nicht vorhandenen Leistungsdaten wundert schon etwas. Wäre ja nicht allzu schwer, die selben LLMs auf einer MI300 und einer H100 laufen zu lassen und die Token/s zu vergleichen.

na Leistungsdaten stehen da nur leider keine Benchmarks, die würden mich auch interessieren und auch die Kosten was die Systeme Kosten sprich P/L und L/$.
Auf dem Papier schaut das garnicht so schlecht aus

 

[Sir Diablo]

Ja, dass da keine offiziellen Rohleistungsdaten bekannt wären habe ich auch nicht gemeint. Aber wen interessiert Rohleistung.