Zukünftige AI-Hardware: Blackwell und Blackwell NVLink Switch im Einsatz

[HWL News Bot]

Zur Hotchips-Konferenz 2024 spricht NVIDIA über einige weitere Details seiner Blackwell-Generation der KI-Beschleuniger bzw. die dazugehörige Netzwerk-Hardware. Zunächst einmal gab es in den vergangenen Monaten immer wieder Gerüchte zu einer Verschiebung von Blackwell im Datacenter und tatsächlich musste NVIDIA eine neue Revision des Chips bzw. Package auflegen, was einen Neustart in der Fertigung bei TSMC nach sich gezogen hat. Davon betroffen ist aber ausschließlich Blackwell in Form des KI-Chips – es gibt keinerlei Auswirkungen auf das, was aktuell im ersten Quartal 2025 an Gaming-Hardware erwartet wird.
... weiterlesen

 

[cresent15]

Ok da reicht einer schon mal nicht für aktuellen und kommende Model. LLAMA 3.1 405b braucht alleine schon ca. 240 GB Speicher. 😂

 

[Don]

Ok da reicht einer schon mal nicht für aktuellen und kommende Model. LLAMA 3.1 405b braucht alleine schon ca. 240 GB Speicher. 😂

NVIDIA verkauft dir auch gerne mehr als einen Beschleuniger

 

[Sir Diablo]

NVIDIA verkauft dir auch gerne mehr als einen Beschleuniger

Ja, ich bezweifle, dass NVidia auf ne Anfrage für einen Beschleuniger auch nur antworten würde.

 

[L0rd_Helmchen]

Die Switches fangen langsam an eher nach Raumfahrttechnik auszusehen

 

[Redbull0329]

Da geht was!