Leistung der Instinct-Beschleuniger: AMD hat vor allem ein Software-Problem

[HWL News Bot]

In einer Leistungsanalyse zwischen NVIDIAs aktuellen Hopper-Beschleunigern mit H100- und H200-GPU sowie AMDs Instinct MI300X zeigten sich vor allem die Nachteile des Software-Ökosystems von AMD. Auf dem Papier ist der Instinct MI300X durchaus in der Lage es mit der Konkurrenz aufzunehmen, in manchen Bereichen wäre er sogar im Vorteil. In den kommenden Monaten soll die Instinct MI325X als Nachfolger des MI300X mit 256 anstatt 192 GB HBM3E aufwarten können. In der Vorstellung zeigte AMD Vergleiche mit NVIDIAs H200-Beschleuniger und sieht sich in vielen Bereich weit vor der Konkurrenz.
... weiterlesen

 

[cresent15]

War das schon jemals anders?

Wurde vor einer Weile nicht irgendwo gesagt - ich finde die Quelle nicht mehr - dass die Betriebskosten von Nvidia so gering sind, dass AMD selbst dann nicht mithalten könnte, wenn die Beschleuniger kostenlos wären?

 

[Morrich]

Dass es bei AMD oftmals bei der Software hapert, ist ja nun echt nichts neues. Erschreckend bzw. unerklärlich ist hingegen, warum man das bei AMD offenbar bis heute nicht wirklich erkannt und begriffen hat. Schon vor Jahren hätte man sich da deutlich besser aufstellen müssen.
Bleibt zu hoffen, dass AMD nun, da sie finanziell wieder deutlich besser aufgestellt sind, an dieser Stelle mal deutlich investiert.

 

[Zeitmangel]

Dass es bei AMD oftmals bei der Software hapert, ist ja nun echt nichts neues. Erschreckend bzw. unerklärlich ist hingegen, warum man das bei AMD offenbar bis heute nicht wirklich erkannt und begriffen hat.

Interessante Theorie. Auch angesichts dessen, daß sie schon vor etlichen Monaten erklärt haben, daß egal was sie machen, die Soft für eine ganze Weile Priorität 1 haben wird. Ein Insider was?
Soweit Prio 1, daß Semi berichtete, Lisa persönlich hat mit denen mind. 1 Videokonferenz gemacht?

Bleibt zu hoffen, dass AMD nun, da sie finanziell wieder deutlich besser aufgestellt sind, an dieser Stelle mal deutlich investiert.

Ggf. würde es vielleicht schon reichen, wenn man die vorhandenen Mannschaften machen lässt was wirklich wichtig ist

@cresent15
Das wäre tatsächlich neu. Jetzt mal auch abseits dessen, daß ich nicht ganz schnalle was das mit dem Tonic/der News zu tun haben könnte. Das Problem ist grad, daß die Soft die Hardware unterperformt. Nicht, daß man sonst 101 Probleme damit hat die man mit NV nicht hat
Oder hab ich da was falsch verstanden?

@all
Gut, ob überhaupt und welche Früchte das nun trägt ist ja die andere Sache Aber da mit Druck was tun wollen, das sieht man vorerst schon.

Tatsächlich fährt jetzt der Hyperzug für KI rum, irgendwie scheint das für AMD aber adaptiert worden zu sein, für eine Hardware die primär für FP64 gemacht worden war. Da liefern die Dinger übrigens volles Karacho.
Imho hat man aber Stückchen zu lang nur darüber geredet, daß ML daruf ebenfalls so bollert. Für ML muss man halt merh selbst tun, was Soft angeht. Es reicht wohl nicht richtig gut Cuda zu konvertieren

 

[Stunrise]

Das Thema Software war schon immer ein Problem von AMD, die Trends stets verschlafen haben und danach 10 Jahre gebraucht haben, um danach auf Augenhöhe zu sein.

• G-Sync war ab Tag 1 hervorragend ab 30Hz bis MaxHz, AMD hat mit FreeSync schnell nachgezogen, aber nahezu alle Implementierungen der ersten 3 Jahren waren kompletter Müll, weil nirgends ein HwScaler verbaut war. Oft waren das dann Monitore mit mehreren FreeSync Range Optionen, z.B. 96-144Hz oder 48-96Hz.
• DLSS seit 2.0 ist der Game Changer, um gewaltige Performancesprünge umzusetzen und gleichzeitig das Anti Aliasing Problem zu lösen. Mir gefällt native zwar optisch besser, aber bei 50% Performance Improvement mit 4K Quality ist das ein guter Kompromiss.
• Low Latency Modes gab es bei Nvidia schon vor 10 Jahren (PreRendered Frames 1), dazu kam dann Reflex in zahlreichen Titeln

Es ist die Software, die für mich Radeon Grafikkarten unkaufbar macht. Früher G-Sync, heute DLSS 2.0, weil FSR derart schlecht in der Verbreitung, Leistung und Qualität ist, dass auch ein 200€ Aufpreis der Nvidia Grafikkarte nach wie vor gerechtfertigt ist. Würde DLSS auch bei AMD Grafikkarten funktionieren, hätte ich mir eine 7900XTX gekauft, aber FSR ist derzeit nicht konkurrenzfähig. AMD ist immer der Nachzügler und haut in der Eile unfertige Features raus, die weder in Spielen angeboten werden, noch vergleichbar gut funktionieren.

In der Arbeit haben wir vor 6(?) Jahren Grafikbeschleuniger für Terminalserver gebraucht, da war bei Citrix gar nichts anderes als Nvidia GRID überhaupt unterstützt. Wie immer too little too late von AMD, also haben wir 6 Server mit jeweils 2x Nvidia T4 Grafikkarten gekauft, plus nochmal ca. 500 Userlizenzen.

Hardwareseitig ist Team Rot fast immer leistungsfähig, aber das bringt mir nichts, wenn unterm Strich nichts gutes dabei rumkommt. Ich würde SO gern AMD kaufen, um die Nvidia Preispolitik zu sabottieren, aber da spare ich mir dann 100€ und habe ein paar GB mehr VRAM, dafür habe ich dann Upscaling zweiter Klasse und mehr Verbrauch. Danke, aber nein Danke.

 

[Sisyphus]

@Stunrise
Ähnliche Erfahrung bezüglich offline Raytracing. Als Nvidia cudacore Unterstützung auf den gaming Treibern aktivierte, konnte man von heute auf morgen Raytracing apps auf consumer GPUs nutzen. Das war für mich der Grund, von Radeon auf Nvidia zu wechseln. Erwarb damals eine gtx 970, um das auszuprobieren und war beeindruckt. Selbst Rendern verteilt auf mehrere Nvidia GPUs funktionierte aus dem Stand heraus. Ein Reiter gesetzt, GPUs ausgewählt, lief. Ähnliches bei Blender cycles. Nvidia ist damals der Blender Foundation beigetreten und hat innerhalb kürzester Zeit bei der Entwicklung einer zuverlässigen Schnittstelle geholfen. AMD hat das erst ca. 5 Jahre später getan. Blender cycles geht nun auch auf AMD, aber mit ca. 30-40% niedrigeren Benchmark werten als vergleichbare Nvidia Karten. Derzeit nutze ich einen kleineren Anbieter (Freeware) und cudacore. Es gab aus dessen Community mehrere Anfragen bei AMD, ob sie nicht bei Implementierung einer Schnittstelle für AMD GPUs helfen könnten. AMD zeigte sich nicht interessiert. Drittanbieter, die für $100-$200 plugins zu einigen RT-engines entwickelt haben, sind die einzige Alternative. Aber es gibt keine direkte Unterstützung von AMD und nur wenige wollen sich dem Risiko aussetzen, den kleinen Drittanbieter verschwinden zu sehen und auf unvollendeten Projekten sitzen zu bleiben.