NVIDIA Blackwell: Neue Datenformate sorgen für mehr Leistung in den Tensor-Kernen

[HWL News Bot]

Im Vorfeld der Hot Chips 2024 sprach NVIDIA bereits über die Blackwell-Infrastruktur in Form des NVLink-Interconnects und der dazugehörigen Switches. Auf der Konferenz selbst verriet NVIDIA etwas mehr zur Blackwell-Architektur, bzw. der darin verbauten Tensor-Kerne. Diese können zwar weiterhin große Matrizen in einem Durchlauf berechnen, mit Hilfe neuer Datenformate wird der Durchsatz jedoch deutlich erhöht.
... weiterlesen

 

[Socke4321]

Bei den Hasenbild seh ich aber deutlich einen Unterschied zwischen FP16 und FP4.

 

[Richard88]

Es geht nicht darum das identische bild zu erhalten, es geht um die allgemeine qualität. Und da sieht man etwas sehr interessantes für gerade einmal 50% der computepower.

Stell dir vor dein neues auto macht statt 200 jetzt 193 ps aber verbraucht nur mehr die hälfte an sprit.

 

[Socke4321]

@Richard88 Ich denke ich weiss was du meinst...das der Hase immer noch als Hase erkennbar ist auch wenn er jetzt mit FP4 berechnet worden ist.
Mich hat der Satz im Artikel gestört:
>Obiges Beispiel eines durch KI erstellten Bildes soll verdeutlichen, dass trotz Nutzung von FP4 kaum bis keine reduzierte Qualität im Bild zu erkennen ist und der Prompt weiterhin bestmöglich umgesetzt wird.
Auch in Zahlen ausgedrückt sieht NVIDIA keinerlei Reduzierung in der Qualität des Modells:<

"...kaum bis keine... " seh ich da ehrlich nicht. Find den Unterschied von der Qualität doch erheblich aber Ok komme jetzt nicht aus dem KI Bereich vielleicht beurteile ich das ja wirklich falsch.

 

[Richard88]

@Richard88 Ich denke ich weiss was du meinst...das der Hase immer noch als Hase erkennbar ist auch wenn er jetzt mit FP4 berechnet worden ist.
Mich hat der Satz im Artikel gestört:
>Obiges Beispiel eines durch KI erstellten Bildes soll verdeutlichen, dass trotz Nutzung von FP4 kaum bis keine reduzierte Qualität im Bild zu erkennen ist und der Prompt weiterhin bestmöglich umgesetzt wird.
Auch in Zahlen ausgedrückt sieht NVIDIA keinerlei Reduzierung in der Qualität des Modells:<

"...kaum bis keine... " seh ich da ehrlich nicht. Find den Unterschied von der Qualität doch erheblich aber Ok komme jetzt nicht aus dem KI Bereich vielleicht beurteile ich das ja wirklich falsch.

Mit "qualität" meint man unter diesem zusammenhang dieneinhaltung bestimmter parameter. Diese sind aber höchst aubjektiv beziehungsweise anwendungs und anwender! Spezifisch. Das obige beispiel soll verdeutliche wie "nahe" man beim beispiel hase an das teurere modell kommt.

Das obige beispiel ist jedenfalls beeindruckent, wenn man sich die compute leistung vor augen führt.