Werbung
NVIDIA hat auf der Herbst-GTC eine Reihe an Neuerungen vorgestellt. Zunächst einmal wurde man nicht müde zu betonen, dass die ersten Hopper-Beschleuniger alias H100 noch im Oktober ausgeliefert werden sollen. Dabei handelt es sich um die PCI-Express-Varianten, währen die SXM4-Modelle noch etwas auf sich warten lassen.
In der vergangenen Woche stellte NVIDIA im Rahmen der MLPerf-Zahlen erstmals unabhängige Benchmark-Ergebnisse zum H100-Beschleuniger vor.
Die Bilderkennung in Medizinanwendungen beschrieb die erste echte Neuvorstellung der GTC. NVIDIA ist in diesem Bereich schon länger aktiv und natürlich konnten bisherige Hardware-Plattformen bereits dazu verwendet werden. NVIDIA IGX aber ist eine dedizierte AiO-Plattform für diesen Bereich.
Bei IGX handelt es sich um eine Platine, welche alle notwendige Komponenten enthält. Ein Orin-Modul mit einer Rechenleistung von 250 TOPS stellt die Basis dar, auf der die anderen Komponenten angebunden werden. Eine RTX-GPU auf Basis der Ampere-Architektur ist für die eigentlichen Rechenleistung verantwortlich und kommt auf bis zu 600 TOPS. Eine ConnectX-7 stellt 400-GBit/s-Netzwerkverbindungen hier.
Im Medizinbereich wichtig sind natürlich auch die Sicherheit der Daten sowie die der Hardware als solches. Es gibt sogenannte Safety Islands und eine Echtzeit-Überwachung der Hardware.
Medizingerätehersteller können ihre Hard- und Software auf Basis der bestehenden System-Plattformen von NVIDIA entwickeln, hier schon mit Origin starten und dann auf die IGX-Plattform wechseln. Vor allem aber will NVIDIA mit dieser einheitlichen Plattform für eine Beschleunigung in der Entwicklungszeit sorgen. Auch in der Automatisation im Industriebereich soll IGX Verwendung finden.
Im Automotive-Bereich gibt es eine Namensänderung. Aus Drive Atlan wird Drive Thor. Aber nicht nur der Name ändert sich, sondern auch die Leistung. Diese soll verdoppelt werden können. Drive Thor ist ein Hybrid-Chip mit Arm-Kernen und einer Hopper-GPU. Aber auch die Nachfolgearchitektur von Hopper soll hier bereits zum Einsatz kommen. Wie genau dies aussehen soll, wollte NVIDIA aber noch nicht verraten.
2.000 TFLOPS soll Drive Thor erreichen. Drive Atlan sollte auf etwa 1.000 TFLOPS kommen. Genau wie beim Grace-Superchip oder dem Grace-Hopper-Superchip verbindet NVIDIA die eben erwähnten Chips mittels NVLink-C2C-Interconnect.
NVIDIA wird zunehmend zum Cloud-Dienstleister
Neben einigen Hardware-Ankündigungen wird NVIDIA auch zunehmend zum Cloud-Dienstleister. Für große Datensätze gibt es NeMo LLM als AI-Cloud-Dienstleistung und BioNeMo LLM zielt auf den Medizinbereich ab. Auch in vielen weiteren Bereichen bietet NVIDIA inzwischen direkt Cloud-Services an. Weitere werden sicherlich folgen.