Instinct MI300X
-
MLPerf Inference 4.1: Erste Benchmarks zu Granite Rapids, B200, TPU v6e, Instinct MI300X und Turin
Die MLCommons hat eine neue Runde an Benchmarks aus dem Inferencing-Bereich veröffentlicht. Die MLCommons sieht sich als unabhängige Organisation, die einen besseren Vergleich von Datacenter-Hardware ermöglichen will. Die Testbedingungen werden vorgegeben und mit den notwendigen Schranken versehen. Die Teilnehmer testen auf Basis dieser Vorgaben, allerdings können alle weiteren Teilnehmer diese Ergebnisse in einer Review-Phase verifizieren, so... [mehr] -
VLSI 2024: AMD nennt weitere Details zum Package der Instinct-MI300-Familie
Bereits im Dezember des vergangenen Jahres präsentierte AMD die ersten beiden Ableger der Instinct-MI300-Serie: Die Instinct MI300X und Instinct MI300A. Auch zum "3.5D"-Package und dem Layout mit Interposer, IOD sowie XCD und CCD gab man damals bereits einige Details bekannt. Auf dem VLSI Symposium 2024 sprach nun in weiteren Details darüber, denn was auf den ersten Blick nach einem "einfachen" modularen Design aussieht, hat bei genauerer... [mehr] -
Lenovo ThinkSystem SR685a V3: AMDs Instinct MI300X soll endlich durchstarten
Im vergangenen Dezember stellte AMD seine KI- und HPC-Beschleuniger Instinct MI300X und MI300A final vor. So langsam sollen die entsprechenden Beschleuniger in größeren Stückzahlen verfügbar sein, denn bisher könnte man durchaus den Eindruck gewinnen, dass AMD den aktuellen KI-Hype weitestgehend verpasst hat. Allenfalls durch eine überhaupt vorhandene Verfügbarkeit im Vergleich zu den H100- und H200-Beschleunigern von NVIDIA wird man punkten... [mehr] -
NVIDIA kontert: H100 soll deutlich schneller als Instinct MI300X sein
Zusammen mit der Vorstellung der Instinct MI300A und Instinct MI300X präsentierte AMD in der vergangenen Woche auch beeindruckende Leistungsdaten. Laut dieser ist der Instinct-MI300X-Beschleuniger mindestens auf Augenhöhe mit dem H100-Beschleuniger von NVIDIA. Nun aber kontert NVIDIA die von AMD gemachten Aussagen und veröffentlicht in einem Blogpost neue Zahlen, die auch Bezug auf den Instinct-MI300X-Beschleuniger nehmen. Was dabei... [mehr] -
Instinct MI300X und Instinct MI300A: AMD will NVIDIA nun Beine machen
Bisher wird der Markt für KI-Beschleuniger fast ausschließlich von NVIDIA besetzt und hier verdient man auch sehr gut daran. Aber natürlich wollen Hersteller wie Intel und AMD diesen Markt nicht komplett dem aktuellen Branchenprimus überlassen und so präsentierte man im Falle von AMD bereits im Januar des vergangenen Jahres die ersten Details zur Instinct-MI300-Familie. Zusammen mit den weiteren Varianten der EPYC-Familie gab es zur Mitte des... [mehr]