MLPerf Inference 3.1: Grace Hopper ist 17 % schneller als H100

[HWL News Bot]

Die MLCommons veröffentlicht heute die Ergebnisse zu den Inference-Ergebnissen der MLPerf-3.1-Runde. In diesen Ergebnissen gibt es soweit keinerlei Überraschungen, aber eine interessante Vielfalt an Hardware: Intel, AMD, NVIDIA, Qualcomm und Google. Zudem zeigt sich immer wieder, dass bei gleicher Hardware auch die Optimierung der Software eine wichtige Rolle spielt.
... weiterlesen