GH200 NVL32: AWS und NVIDIA bauen KI-Supercomputer

[HWL News Bot]

Neben der Ankündigung zweier neuer Chips in Form des Graviton4 und Trainium2 haben die Amazon Web Services (AWS) und NVIDIA eine Zusammenarbeit zum Aufbau eines KI-Supercomputers in der Cloud angekündigt. Das Ceiba getaufte System wird 16.384 GH200-Beschleuniger verwenden und wird damit zu den größten System mit dieser Hardware gehören.
... weiterlesen

 

[DTX xxx]

Schon heute ist es so, dass eine Anfrage an Chat GPT, mit einer Antwort von 230 Wörter, eine Leistungsaufnahme von 6 laufenden Fernseher benötigt. Die Menschheit ist auf einen hervorragenden Weg. Und sicherlich wird auch bald der schon existierende Salzstreuer mit Beleuchtung W-LAN haben.

 

[Richard88]

Schon heute ist es so, dass eine Anfrage an Chat GPT, mit einer Antwort von 230 Wörter, eine Leistungsaufnahme von 6 laufenden Fernseher benötigt. Die Menschheit ist auf einen hervorragenden Weg. Und sicherlich wird auch bald der schon existierende Salzstreuer mit Beleuchtung W-LAN haben.

Darumg eht es aber nicht. Es geht darum die fähigkeiten zu erweitern, nicht einen brieffreund zu haben.
AI kann vieles deutlich verbessern (medikamentenforschung zum beispiel)

Die ersten autos waren mit denen heute verglichen auch total ineffizient und stinkig und laut und fehleranfällig, und siehe da wo wir gelandet sind.

Abgesehen davon ist so eine " 6 fernseher" angabe so dämlich, das kann nur aus den USA kommen. Einf ernseher kann 150W oder 600W verbraten, welcher ist es jetzt?

Solche aussagen sind in meinen augen nichtssagende emotionenrüttler.

 

[AliManali]

Wenn er wenigstens geschrieben hätte, wie lange die 6 Fernseher laufen müssten. Dachte mir auch, macht Null Sinn sein Post.

 

[cresent15]

Schon heute ist es so, dass eine Anfrage an Chat GPT, mit einer Antwort von 230 Wörter, eine Leistungsaufnahme von 6 laufenden Fernseher benötigt. Die Menschheit ist auf einen hervorragenden Weg. Und sicherlich wird auch bald der schon existierende Salzstreuer mit Beleuchtung W-LAN haben.

Mein Vater hat einen elektrischen Salzstreuer. Habe auch nicht verstanden was genau er damit will.

 

[DragonTear]

Schon heute ist es so, dass eine Anfrage an Chat GPT, mit einer Antwort von 230 Wörter, eine Leistungsaufnahme von 6 laufenden Fernseher benötigt. Die Menschheit ist auf einen hervorragenden Weg. Und sicherlich wird auch bald der schon existierende Salzstreuer mit Beleuchtung W-LAN haben.

Das klingt jetzt allerdings nach deutlich mehr als es ist, schliesslich dauert die Generierung nur Sekunden (besonders inzwischen - ChatGPT ist deutlich schneller geworden).
Hier ist übrigens die Rede von 10-100W: https://lifestyle.livemint.com/news...GPT-4 query is,and number of tokens processed.
Edit: Achtung, Watt oder auch "Fernseherverbrauch" ist immer pro Zeiteinheit.
Längere Queries brauchen logischerweise länger, wobei man wohl nicht 1 zu 1 den Stromverbrauch pro Token/Wort ermitteln kann weil der Algorithmus nicht immer die selben Resourcen beansprucht.

@cresent15 Das dürfte doch eher eine Mühle sein, oder?

 

[cresent15]

@cresent15 Das dürfte doch eher eine Mühle sein, oder?

Ja, die richtige Bezeichnung wäre elektrische Salzmühle und Streuer gewesen.

 

[DTX xxx]

Achtung, Watt oder auch "Fernseherverbrauch" ist immer pro Zeiteinheit.

Danke, weiß ich. Um es aber greifbar zu machen. Eine Anfrage mit einer Antwort die 230 Wörter umfasst hat eine Leistungsaufnahme wie 6 laufende Fernseher. Ich habe nicht geschrieben, wie 6 laufende Fernseher über Stunden, oder Wochen, oder Jahre.

(besonders inzwischen - ChatGPT ist deutlich schneller geworden

Bei höherer Leistungsaufnahme?
Und da die Anfragen an Chat GPT ja nicht nur einmal im Jahr passieren, sondern sicherlich 1000 mal eine Anfrage zur gleichen Zeit. Wenn man dann eine 230 Wörter Antwort als Basis nimmt, sind es praktisch 6000 laufende Fernseher. Wir brauchen als Menschheit immer mehr und mehr an Energie.

Habe auch nicht verstanden was genau er damit will.

Wenn man das smart Home dagegen stellt, ist sicherlich so eine elektrische Salzmühle nur ein Pupsi. Aber die kommt halt noch obendrauf. Und bestimmt haben schon 100.000 alleine in Deutschland so eine elektrische Salzmühle.