NVIDIA Blackwell: Neue Datenformate sorgen für mehr Leistung in den Tensor-Kernen

Thread Starter
Mitglied seit
06.03.2017
Beiträge
113.944
Im Vorfeld der Hot Chips 2024 sprach NVIDIA bereits über die Blackwell-Infrastruktur in Form des NVLink-Interconnects und der dazugehörigen Switches. Auf der Konferenz selbst verriet NVIDIA etwas mehr zur Blackwell-Architektur, bzw. der darin verbauten Tensor-Kerne. Diese können zwar weiterhin große Matrizen in einem Durchlauf berechnen, mit Hilfe neuer Datenformate wird der Durchsatz jedoch deutlich erhöht.
... weiterlesen
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Bei den Hasenbild seh ich aber deutlich einen Unterschied zwischen FP16 und FP4.
 
Es geht nicht darum das identische bild zu erhalten, es geht um die allgemeine qualität. Und da sieht man etwas sehr interessantes für gerade einmal 50% der computepower.

Stell dir vor dein neues auto macht statt 200 jetzt 193 ps aber verbraucht nur mehr die hälfte an sprit.
 
@Richard88 Ich denke ich weiss was du meinst...das der Hase immer noch als Hase erkennbar ist auch wenn er jetzt mit FP4 berechnet worden ist.
Mich hat der Satz im Artikel gestört:
>Obiges Beispiel eines durch KI erstellten Bildes soll verdeutlichen, dass trotz Nutzung von FP4 kaum bis keine reduzierte Qualität im Bild zu erkennen ist und der Prompt weiterhin bestmöglich umgesetzt wird.
Auch in Zahlen ausgedrückt sieht NVIDIA keinerlei Reduzierung in der Qualität des Modells:<

"...kaum bis keine... " seh ich da ehrlich nicht. Find den Unterschied von der Qualität doch erheblich aber Ok komme jetzt nicht aus dem KI Bereich vielleicht beurteile ich das ja wirklich falsch.
 
@Richard88 Ich denke ich weiss was du meinst...das der Hase immer noch als Hase erkennbar ist auch wenn er jetzt mit FP4 berechnet worden ist.
Mich hat der Satz im Artikel gestört:
>Obiges Beispiel eines durch KI erstellten Bildes soll verdeutlichen, dass trotz Nutzung von FP4 kaum bis keine reduzierte Qualität im Bild zu erkennen ist und der Prompt weiterhin bestmöglich umgesetzt wird.
Auch in Zahlen ausgedrückt sieht NVIDIA keinerlei Reduzierung in der Qualität des Modells:<

"...kaum bis keine... " seh ich da ehrlich nicht. Find den Unterschied von der Qualität doch erheblich aber Ok komme jetzt nicht aus dem KI Bereich vielleicht beurteile ich das ja wirklich falsch.
Mit "qualität" meint man unter diesem zusammenhang dieneinhaltung bestimmter parameter. Diese sind aber höchst aubjektiv beziehungsweise anwendungs und anwender! Spezifisch. Das obige beispiel soll verdeutliche wie "nahe" man beim beispiel hase an das teurere modell kommt.

Das obige beispiel ist jedenfalls beeindruckent, wenn man sich die compute leistung vor augen führt.
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh