Werbung
Zur Vision 2024 Anfang April stellte Intel die Gaudi-3-Beschleuniger mit allen Details vor. Sie sollen NVIDIA und den H100- und H200-Beschleunigern ab dem dritten Quartal Konkurrenz machen. Was man allerdings auch immer im Hinterkopf haben sollte: Bis wir das dritte Quartal erreicht haben, steht schon der Nachfolger Blackwell in den Startlöchern, wenngleich die weitaus größeren Stückzahlen noch über Monate auf die H100- und H200-Beschleuniger verteilt sein werden.
Intel möchte aber dennoch auf mehreren Ebenen punkten können: Einerseits sieht man sich mit NVIDIAs H100- und auch H200-Beschleuniger mindestens auf Augenhöhe, wenn nicht sogar um 30 bis 50 % im Vorteil. Vor allem aber will man liefern können, denn teilweise müssen die Kunden für die Beschleuniger von NVIDIA wochen- oder gar monatelang warten.
Zur Computex hat Intel nicht nur seinen Lunar-Lake-Prozessor und die ersten Xeon-6-Modelle mit im Gepäck, sondern auch ein paar neue Zahlen zu Gaudi 3.
Zum einen hat man neue Benchmarks bzw. Projektionen der Leistung im Vergleich zu NVIDIAs H100- und H200-Beschleuniger. Die Zahlen der Leistung entnimmt Intel dabei einer Veröffentlichung seitens NVIDIA auf GitHub. Hier sind für verschiedene Modelle in den unterschiedlichsten Größen die entsprechenden Leistungswerte aufgeführt. Diesen Daten stellt Intel nun die eigenen Projektionen entgegen, denn richtig handfeste Benchmarks echter Hardware hat man zum aktuellen Zeitpunkt noch nicht.
Im Vergleich zu den Daten aus dem April ist hier das Modell Mixtral 8x 7B hinzugekommen. Da Intel seinen Gaudi-3-Beschleuniger in der mehrfachen Ausführung des Modells gut aufgestellt sieht, ist man gleich um den Faktor zwei- bis viermal so schnell wie die H100-Beschleuniger. Ebenfalls für das Inferencing nimmt man Mistral 7B als Modell hinzu und sieht sich auch hier schneller, was den Schnitt für die Inferencing-Leistung nach oben treibt.
Anders als NVIDIA und AMD spricht Intel auch über die Preise seiner Beschleuniger. So kostet ein Universal Baseboard (UBB) mit acht Gaudi-2-Beschleunigern 65.000 US-Dollar. Ein kompletter Server mit dazugehörigem Xeon-Prozessor, Speicher und etwas Netzwerkausstattung ist schon ab 90.000 US-Dollar zu haben.
Gaudi 3 wird deutlich teurer und soll dennoch nur rund ein Drittel dessen kosten, was für ein H100-System aufgerufen wird. 125.000 US-Dollar sollen es für ein UBB mit acht Gaudi 3 sein. Auch hier kommen noch mindestens 25.000 bis 30.000 US-Dollar für die restlichen Komponenten des Servers hinzu. Etwas mehr als 150.000 US-Dollar sind aber noch immer nur die Hälfte dessen, was ein DGX H100 kostet.
Für die H200- und dann später B100- und B200-Beschleuniger werden noch höhere Preise erwartet. Preislich ist AMDs Instinct MI300X auch keine echte Alternative, denn hier sehen wir auch Preise von 250.000 US-Dollar aufwärts für entsprechende Systeme.