AMD präsentiert Radeon Instinct – Machine Learning im Fokus

Auch wenn AMD den professionellen Markt durch die Vorstellung zahlreicher FirePro-Produkte, darunter die neue WX-Serie, nicht vollständig hat links liegen lassen, so spielen diese Produkte vor allem im High-End Supercomputing-Bereich nicht wirklich eine wichtige Rolle. Nun aber stellt AMD eine komplett neue Strategie in diesem Segment vor: Radeon Instinkt.

Mit Radeon Instinkt will AMD ein komplettes Ökosystem für Machine Learning, Deep-Learning-Netzwerke – oder welcher Begriff auch immer hier verwendet wird – im Markt etablieren. Die Zen-Architektur für die Prozessoren, die Vega-Architektur bei den Grafikkarten und eine offene Softwareumgebung ROCm sollen AMD verhelfen hier Marktanteile zu gewinnen, die derzeit maßgeblich von NVIDIA besetzt sind. Auf die Frage, warum AMD gerade jetzt diese Ansätze vorstellt, antwortet das Unternehmen: Deep Learning und Machine Learning haben einen technischen Stand erreicht, zu dem sich AMD nun auch hinsichtlich der Hardware darauf konzentrieren möchte – sowohl für das Training als auch für das Inferencing in den Systemen.

Heterogene System sollen in Zukunft diese Entwicklung antreiben. Proprietäre Systeme wie NVIDIAs CUDA und solche Infrastruktur mit GPU-Beschleunigern, wie sie aktuell in den Supercomputern zu finden sind, sind zu speziell und nicht universell einsetzbar – so AMD. Mit ROCm will man hinsichtlich der Software die richtige Antwort haben und ermöglicht sogar die Ausführung von CUDA-Programmen auf der eigenen Hardware.

[h2]Hardware basiert teilweise auf der Vega-Architektur[/h2]

Hinsichtlich der Hardware hat AMD einige Ankündigungen zu machen. Dazu gehören drei Hardwarebeschleuniger. Darunter ist auch ein Modell auf Basis der neuen Vega-Architektur und aus den veröffentlichten Werten lassen sich auch einige Leistungswerte der Vega-GPU zurückrechnen. 

Neben diesen zugegeben wenigen technischen Daten nannte AMD noch eine 2x Packed Math-Leistung sowie die Verwendung eines High Bandwidth Cache Controller. Außerdem gilt zu beachten, dass AMD das schnellste Modell Radeon Instinct MI25 with NCU. CU steht bei AMD üblicherweise für Compute Unit – NCU könnte daher für New Compute Unit stehen. Aus der besagten Rechenleistung und bei angenommenen 4.096 Shadereinheiten für Vega ergibt sich daraus ein GPU-Takt von 1.525 MHz.

In den Folien macht AMD keinerlei Angaben zum Speicherausbau oder dessen Anbindung. Allerdings wurden in verschiedenen Gesprächen auf dem AMD Tech Summit in der vergangenen Woche sowohl die 512 GB/s als auch die 16 GB HBM2 genannt. Dies ist mit den Spezifikationen von HBM2 zu vereinbaren und geht davon aus, dass es sich um die kleinere Ausbaustufe der Vega-Architektur handelt, die dann auch nur zwei Speicherstacks mit jeweils 8 GB (8Hi HBM2) verwendet. Bei vier Speicherstacks wären bis zu 32 GB Gesamtkapazität möglich, die dann auch mit bis zu 1.024 GB/s angebunden sind.

Einige Leistungswerte präsentierte AMD ebenfalls, weißt aber gleichzeitig darauf hin, dass diese Daten mit einer sehr frühen Hardware entstanden sind und es noch großes Optimierungspotenzial in dieser Hinsicht gibt. Um auch hinsichtlich der Software gegen die Konkurrenz bestehen zu können, hat AMD zahlreiche Software-Initiativen gestartet. Dazu gehören neben den bereits erwähnten OpenCompute und ROCm auch eine eigene Software-API, die in Verbindung mit der Radeon-Instinct-Hardware auf einem Level mit Software der Konkurrenz sein soll. MIOpen ist eine eigene Deep-Learning-Bibliothek und erreicht im Vergleich zu GEMM-basierten APIs eine fast dreifache Leistung auf der Radeon-Hardware. AMD liefert außerdem einige Vergleichswerte der Radeon Instinct MI8 und MI25 gegen eine NVIDIA GeForce GTX Titan X auf Maxwell-Basis oder NVIDIA Titan X auf Pascal-Basis.

[h2]Hardware Virtualisierung und Racks mit Vega-GPU[/h2]

Anfang des Jahres präsentierte AMD die erste Umsetzung für die MxGPU-Technologie, die wiederum auf der SR-IOV (Single Root I/O Virtualization) basiert. Darüber lassen sich über eine GPU mehrere Hardware-Instanzen virtualisieren, die beispielsweise auch über ihre eigenen und abgesicherten Speicherbereich verfügen. Die AMD FirePro S7150 and AMD FirePro S7150 x2 waren die ersten Grafikkarten, die davon Gebrauch gemacht haben.

Die Distribution von Rechenleistung in einem Netzwerk – ob per Internet oder im lokalen Firmennetz, spielt eine immer wichtigere Rolle. Dies ist auch für den Bereich Machine Learning der Fall. Zunächst wurde und wird die Hardware-Virtualisierung auf Workstations angewendet, wo die Rechenleistung nicht zwingend direkt im Arbeitsplatz vorgehalten werden muss, sondern es reicht, wenn diese in einem Server vorhanden ist und auf diese zugegriffen werden kann. Ein großer Vorteil einer solchen Lösung ist, dass die Rechenleistung nicht mehrfach vorhanden und oftmals auch ungenutzt brachliegt, sondern von mehreren Instanzen darauf zugegriffen werden kann. Auf einer GPU können bis zu 16 virtuelle Instanzen verwendet werden. Weitere eingesetzte und verfügbare Funktionen sind ein 64-Bit-Adressing per PCI-Express sowie ein Large Base Address Register (BAR).

AMD präsentiert zusammen mit seinem Partnern schon die erste Hardware. Darunter sind Serverracks aus dem Hause 1026 Labs, Inventec, SuperMicro und Xilinx. Dort sind bis zu 16 Radeon Instinct MI25 with new NCU verbaut. Die Rechenleistung eines solchen Servers soll bei 400 TFLOPS alleine für die GPUs liegen – daraus auch die ermittelten Takt- und Shaderangaben aus der Vergleichstabelle. Racks mit mehreren solcher Server kommen auf 3 PFLOPS mit 120 Radeon Instinct MI25 und solche Hardware soll auch effizenter sein als der NVIDIA DGX SATURNV, der mit Tesla-P100-GPU-Beschleunigern bestückt ist.

Die erste Radeon-Instinct-Hardware soll im ersten Halbjahr 2017 verfügbar sein. Preise nennt AMD bisher noch nicht. Auf der Bühne des AMD Tech Summit präsentierte sich der Chef der Radeon Technologies Group auch gleich mit der ersten Hardware und zeigt sich natürlich sehr überzeugt vom Gesamtkonzept.

"Radeon Instinct is set to dramatically advance the pace of machine intelligence through an approach built on high-performance GPU accelerators, and free, open-source software in MIOpen and ROCm," so Raja Koduri. "With the combination of our high-performance compute and graphics capabilities and the strength of our multi-generational roadmap, we are the only company with the GPU and x86 silicon expertise to address the broad needs of the datacenter and help advance the proliferation of machine intelligence."

Zum Abschluss ein Video, welches die Demos zu Radeon Instinct auf dem AMD Tech Summit zeigt. Zu sehen gibt es hier das Traning eines Deep-Learning-Netzwerkes auf einer Radeon Instinct MI25 auf Basis der neuen Vega-Architektur sowie das Inferencing auf einer Radeon Instinct MI8.