Colossus KI-Supercomputer: NVIDIA und xAI loben gegenseitig Zusammenarbeit

[HWL News Bot]

Diese Sommer stellte xAI den aktuell wohl größten KI-Supercomputer namens Colossus fertig. Mit 100.000 H100-Beschleunigern bestückt stellt eine solche Installation gigantische Voraussetzungen an alle beteiligten Infrastruktur-Komponenten – über die Stromversorgung im Bereich von 155 MW, die Kühlung und auch im Hinblick auf die Netzwerk-Infrastruktur. Aktuell arbeitet xAI sogar schon an einem Ausbau. Doppelt so viele, satte 200.000 Beschleuniger sollen es letztendlich sein. Unbestätigten Meldungen zufolge soll es sich bei den zusätzlichen 100.000 Beschleunigern sogar um verbesserter H200-Varianten handeln.
... weiterlesen

 

[Zeitmangel]

Weitere 155 MW Leistung für die KI-Blase. Toll gemacht...

 

[Don]

Und wir reden hier zwar vermutlich vom größten, aber längst nicht einzigem Rechenzentrum in der Art.

 

[Zeitmangel]

OAK hat übrigens AMD/HPE gefeiert, weil sie den Verbrauch für 1 Exaflop (HPC, nicht KI) auf 21MW gedrückt bekamen (am Anfang ging man von max. 30 MW aus).
Größenordnung: 150 MW reichen aus um bei Minusgraden 30.000 Wohnung zu beheizen.

edit:
Passt

Gartner sounds alarm on AI cost, data challenges

“Cost is as big an AI risk as security,” Mary Mesaglio, distinguished VP analyst at Gartner, said during a conference keynote last week.

www.customerexperiencedive.com