Werbung
Aktuell setzt NVIDIA bei den eigenen Netzwerklösungen – vor allem im Nahbereich – auf Kupfer und dies selbst für die ultraschnellen NVLink-Interconnects bis auf Rackebene. Aber natürlich spielen auch optische Netzwerkverbindungen bei NVIDIA eine wichtige Rolle, können damit doch größere Strecken miteinander verbunden werden.
Wie viele Chiphersteller, arbeitet auch NVIDIA an einer integration der optischen Netzwerk-Hardware in seinen Chips, bzw. möchte diese möglichst nahe an die Rechenhardware heranbringen. Co-Packaged Optics Networking heißt hier das Stichwort, bei Intel beispielsweise Silicon Photonics Link.
In einem ersten Schritt werden im kommenden Jahr die Netzwerkswitches Spectrum-X und Quantum-X Photonics erscheinen. Die Spectrum-X-Switches für Ethernet sollen dabei in verschiedenen Konfigurationen mit 128 Ports bei 800 GBit/s pro Port oder 512 Ports bei 200 GBit/s pro Port verfügbar sein und eine Gesamtbandbreite von 100 TBit/s erreichen. Für KI-Rechenzentren mit tausenden oder gar Millionen von Beschleunigern sieht NVIDIA sogar Varianten mit 2.048 Ports bei 200 GBit/s vor, was eine Gesamtbandbreite von 400 TBit/s an einem Knotenpunkt liefert.
Die Quantum-X Photonics Switches bieten 144 Ports mit 800 GBit/s InfiniBand basierend auf einer SerDes-Umsetzung mit 200 GBit/s. Durch ein Flüssigkeitskühlsystem wird die integrierte Silicon Photonics möglichst effizient gekühlt.
Die von NVIDIA zusammen mit TSMC, Coherent, Corning Incorporated, Foxconn, Lumentum und SENKO entwickelten Netzwerksysteme verwendet um den Faktor vier weniger Laser (zwei anstatt acht) als vergleichbare Systeme und sind daher um den Faktor 3,5 effizienter (9 anstatt 30 W Leistungsaufnahme). Den Fokus setzte NVIDIA auf die Signalintegrität und die Ausfallsicherheit. Dies wird dadurch gewährleistet, als dass die Silicon-Photonics-Hardware nicht mehr in den Netzwerk-Adaptern, bzw. Steckern (OSFP-Module) sitzt, sondern im Switch selbst. Dadurch werden die Handhabung der optischen Kabel und die Kosten der Adapter reduziert.
Theoretisch lassen sich nun KI-Systeme mit mehreren Millionen Beschleunigern aufbauen. Dies war bisher zwar auch schon möglich, hatte jedoch Nachteile im Hinblick auf die Kosten, die Effizienz und auch die Zuverlässigkeit des Netzwerks.
Die Quantum-X Photonics InfiniBand Switches sollen später in 2025 verfügbar sein, während die Spectrum-X Photonics Ethernet Switches in 2026 folgen werden.
