5. EPYC-Generation

Turin bietet bis zu 192 Kerne und Unterstützung für DDR5-6400

Auf dem "Advancing AI 2024"-Event präsentierte AMD nicht nur zwei neue Instinct-Beschleuniger, sondern auch die fünfte EPYC-Generation alias Turin, in der die Modelle mit Zen-5- und Zen-5c-Kernen gleichzeitig starten werden. In der vierten EPYC-Generation (Genoa) folgte Bergamo mit den Zen-4c-Kernen etwas später. Allesamt verwenden die eben erwähnten Prozessoren den Sockel SP5 – sowohl die vierte als auch die nun neue fünfte Generation. Damit können bestehende Server mit neuen Prozessoren ausgestattet werden, was im Hinblick auf die Unterstützung von DDR5-6400 aber einige Einschränkungen mit sich bringt.

Mit der fünften EPYC-Generation will AMD einen weiteren Schritt am Server-Markt machen, den man im Hinblick auf den Umsatz bereits 31 % belegt. Als AMD mit der ersten Generation 2018 eingestiegen ist, dominierte Intel dieses Segment noch mit 98 %. Die Zeiten haben sich jedoch gewandelt und die Kombination aus guten Produkten seitens AMD und einer wenigen angepassten Ausrichtung seitens Intels haben dazu geführt, dass AMD nun etwa ein Drittel das Umsatzes für sich gewonnen hat. Diesen Trend will man natürlich fortsetzen.

Die fünfte EPYC-Generation teilt sich in zwei Serien auf: Die Variante mit bis zu 128 Zen-5-Kernen, die sich auf bis zu 16 CCDs mit jeweils acht Kernen befinden. Der CCD wird in 4 nm gefertigt. Die zweite Variante kommt auf bis zu 192 Zen-5c-Kerne – 16 Kerne pro CCD und 12 CCDs im Package, die in 3 nm gefertigt werden.

Für die CCDs mit den Zen-5c-Kernen dürfte AMD im Vergleich zum Standard-CCD mit Zen 5 ähnliche Maßnahmen getroffen haben. So halbiert sich der L3-Cache pro CCD von 32 auf 16 MB. Ein taktoptimiertes Design dürfte weniger Transistoren notwendig machen. Ob es auch weitere Maßnahmen wie das Weglassen der TSVs, neue SRAM-Zellen und dergleichen wie bei Zen 4c gibt, ist uns aktuell nicht bekannt.

Die Details der Zen-5-Architektur haben wir bereits zur Ryzen-9000-Serie aufgeschlüsselt. Für die Serverprozessoren kommen grundsätzlich keine weiteren Aspekte hinzu. Dies gilt, bis auf besagte Einschränkungen bei der Unterstützung des schnelleren DDR5, auch für das Speicherinterface mit seinen 12 Kanälen. Ursprünglich hatte AMD eine Zertifizierung für DDR5-6000 vorgesehen. Auf Kundenwunsch (und wohl auch weil Intel seinen Speichercontroller für DDR5-6400 spezifiziert) bietet AMD nun auch DDR5-6400 an.

Für Turin zum Einsatz kommt der gleiche IOD wie beim Vorgänger. Dieser erhält aber neue Funktionen, vor allem aber wird der Speichercontroller mit 6.000 MT/s spezifiziert. Aber auch in der Anbindung des CCDs zum IOD gibt es für den GMI3-Interconnect ein paar Neuerungen. Der GMI3-Wide-Mode ermöglicht es nun acht CCDs mit 32 Byte pro Taktzyklus lesend und mit 16 Byte pro Taktzyklus schreibend anzubinden. Die Schreibrate kann allerdings auch auf 25 Byte erweitert werden.

Da Turin den Sockel SP5 verwendet, bietet die Plattform auch weiterhin viele der dazugehörigen Funktionen. Als Single-Socket-System stehen 128 PCIe-5.0-Lanes zur Verfügung. Bei zwei CPUs im Server sind es 160 PCIe-5.0-Lanes. Zudem wird weiterhin CXL 2.0 unterstützt. Der maximale Speicherausbau liegt bei 6 TB pro Sockel.

Neue Funktionen der fünften EPYC-Generation sind eine PCIe-Link-Verschlüsselung (Trusted I/O) sowie Dynamic Post Package Repair (PPR). Via Trusted I/O soll per PCI-Express angebundene Hardware wie GPU-Beschleuniger, NICs und SSDs besser abgesichert werden, sodass ein Angreifer keinerlei Angriffsvektor in der Hinsicht geboten wird.

Hinsichtlich der Leistung sah sich AMD bereits mit der vierten Generation der EPYC-Prozessoren gegenüber der fünften Generation der Xeon-Prozessoren alias Emerald Rapids gut aufgestellt. Alle von AMD gezeigten Benchmarks verwenden Emeral Rapids als Vergleichsbasis, wenngleich Intel inzwischen mit der Xeon-6-Serie und den reinen Efficiency-Kern-Modellen Xeon 6700E (Test) sowie Performance-Kern-Modellen Xeon 6900P (Test) eine Generation weiter ist.

Bezogen auf die maximale Leistung, gleiche Kern-Anzahl (und hier Lizenzkosten pro Kern) sowie alle denkbaren Anwendungsszenarien sieht sich AMD mit Turin weit vor Intel. 

Auch wenn es darum geht, dass ein x86-Prozessor nur ein Host für die Beschleuniger ist, spielt für AMD eine wichtige Rolle. Intel führte dies mit den Xeon-6900P-Prozessoren ebenfalls an, denn natürlich ist den beiden Unternehmen bewusst, dass der KI-Markt neben den Beschleunigern die entsprechenden Prozessoren benötigt. Mit der Grace-CPU und Kopplung an Hopper- und Blackwell-GPUs versucht NVIDIA diese zwar überflüssig zu machen – so ganz gelungen ist dies jedoch noch nicht.

Für seinen eigenen Instinct-Beschleuniger, aber auch in Kombination mit NVIDIAs H100 und H200 (und später wohl auch B200) will AMD mit seinen EPYC-Prozessoren die beste Lösung für AI-Host-Prozessoren bieten können. Dabei nicht unter den Tisch fallen lassen möchte man aber auch, dass die neuen EPYC-Prozessoren auch ein KI-Inferencing ausführen können und hier dank der Zen-5-Kerne sowie des schnelleren Speicherinterfaces ebenfalls gegenüber dem Vorgänger deutlich zulegen und Intels Emerald Rapids in die Schranken verweisen.

Modelle mit bis zu 5 GHz und 500 W

Die fünfte EPYC-Generation spannt sich von acht bis 192 Kernen, von 125 bis 500 W und einen maximalen Boost-Takt von 5 GHz. Wir haben die technischen Daten der Prozessoren in die Modelle mit Zen-5 und Zen-5c-Kernen aufgeteilt:

"Turin Dense", also die EPYC-Prozessoren der fünften Generation mit Zen-5c-Kernen, bietet 96 bis 192 Kerne. Der Boost-Takt der Zen-5c-Kerne liegt bei jeweils 3,7 GHz. Der L3-Cache bewegt sich zwischen 256 und 384 MB und ist davon abhängig, wie viele CCDs mit jeweils 16 Zen-5c-Kernen aktiv sind. Der EPYC 9965 bietet mit 192 nicht nur die meisten Kerne, sondern genehmigt sich dafür auch 500 W.

Von acht bis 128 Kerne reicht die Spanne für die fünfte Generation der EPYC-Prozessoren mit Zen-5-Kernen. Neben dem Spitzenmodell EPYC 9755 mit 128 Kernen und einer TDP von 500 W heraus, stechen sicherlich die F-Modelle mit besonders hohen Boost-Taktraten und hier der EPYC 9575F und EPYC 9175F mit bis zu 5 GHz. Im Falle des EPYC 9175F befinden sich 16 aktive CCDs im Package, auf denen jeweils ein Kern aktiv ist, aber die vollen 32 MB an L3-Cache zur Verfügung haben, so dass dieses Modell auf 16 Kernen auf 512 MB an L3-Cache kommt.

Die Auslieferung der fünften Generation der EPYC-Prozessoren soll in Form erster OEM-Systeme in Kürze beginnen. Mit den gezeigten Leistungsdaten und Funktionen hat AMD eine mehr als konkurrenzfähige Server-CPU auf den Markt gebracht. EPYC 9005 alias Turin wird AMDs Position am Markt sicherlich weiter stärken können, allerdings konnte Intel mit den Xeon-6-Prozessoren das Ruder offenbar herumreißen.

Update:

Auf Nachfrage, ob und wann die weiteren Modelle auf Basis von Zen 5 und Zen 5c erscheinen werden, zum Beispiel der Nachfolger der sparsameren Sienna-Lösung EPYC 8004, sagt AMD, man konzentriere sich zunächst einmal auf die Standard-Modelle.

Turin-X mit zusätzlichem 3D V-Cache auf den CCDs plant man für die fünfte Generation offenbar nicht. Hier sieht AMD eine andere Kadenz vor. Mit Milan-X gab es den zusätzlichen 3D V-Cache erstmals in der dritten Generation, gefolgt von Genoa-X in der vierten Generation. Für Turin ist es offenbar nicht vorgesehen.

Zum Abschluss noch ein paar Bilder der Turin-Prozessoren ohne Heatspreader in voller Pracht: