CUDA on ROCm: Open-Source-API ermöglicht CUDA-Code auf AMD-Beschleunigern

[HWL News Bot]

Mit CUDA hat sich NVIDIA eine komplette Software-Umgebung geschaffen, die über lange Jahre quasi der Standard für das GPU-Computing war und es größtenteils noch immer ist. Intel und AMD mussten ihre Software-Strategie erst neu aufstellen, um eine Alternative am Markt entwickeln zu können, was mit oneAPI und ROCm teilweise gelungen ist. Hauptargument beider APIs ist, dass sie als Open-Source entwickelt werden.
... weiterlesen

 

[Goldkat]

Ähm, sollte es damit nicht endlich möglich sein Sprach- und Bildmodelle, wie Llama oder Stable Diffusion, mit guter Performance auf Intel und AMD Karten zu betreiben?
Das ist für mich seit Jahren das Totschlagargument für Team Green und ich wäre froh, wenn ich nicht über 1000€ für 16GB Vram zahlen müsste.

 

[loompa21]

Ähm, sollte es damit nicht endlich möglich sein Sprach- und Bildmodelle, wie Llama oder Stable Diffusion, mit guter Performance auf Intel und AMD Karten zu betreiben?
Das ist für mich seit Jahren das Totschlagargument für Team Green und ich wäre froh, wenn ich nicht über 1000€ für 16GB Vram zahlen müsste.

Musst du nicht, die 24GB Tesla Karten sind spottbillig zu bekommen

 

[Onkel Föhn]

Schön zu hören, respektive zu lesen. Wird allerdings mit an Sicherheit grenzender Wahrscheinlichkeit so nicht "angenommen" ...

p.s. hier noch mit ein paar Benches :

AMD-GPUs nutzen jetzt NVIDIA CUDA-Bibliotheken mit ROCm und ZLUDA | igor´sLAB

Es ist gängige Praxis, Codebasen von einem Projekt oder einer Programmiersprache in eine andere zu migrieren, da dies den Entwicklern ermöglicht, auf ein breiteres Spektrum von Funktionen zuzugreifen…

www.igorslab.de

 

[Infi88]

Ist das ein Satirebeitrag oder baut der Open Source Justus von AMD allen Ernstes jetzt auf Emulation seitens CUDA weil er selbst nichts auf die Reihe bekommt ?

Ähm, sollte es damit nicht endlich möglich sein Sprach- und Bildmodelle, wie Llama oder Stable Diffusion, mit guter Performance auf Intel und AMD Karten zu betreiben?
Das ist für mich seit Jahren das Totschlagargument für Team Green und ich wäre froh, wenn ich nicht über 1000€ für 16GB Vram zahlen müsste.

Brauchst du auch nicht 860 sind ja ausreichend, https://geizhals.de/?cat=gra16_512&xf=132_16384~9816_03+05+17+-+RTX+4070+Ti+SUPER&sort=p#productlist. The more you buy, the more you save
.

 

[Onkel Föhn]

Ist das ein Satirebeitrag oder baut der Open Source Justus von AMD allen Ernstes jetzt auf Emulation seitens CUDA weil er selbst nichts auf die Reihe bekommt ?

Mit ROCm bekommt AMD schon selbst etwas auf die Reihe. Wird halt am Markt leider nicht so angenommen ...
Vermutlich weil die CUDA "Junkies" auf ihren proprietären Krempel voll stehen und "geil" finden (Open Source = uncool).

AMD Radeon RX 7900 XT und ROCm - Noch mehr schnelle RDNA 3-Grafikkarten für KI-Anwendungen | igor´sLAB

AMD hat heute bekannt gegeben, dass man das Versprechen einlösen werde, seine kundenorientierten Produkte innerhalb der RDNA 3 GPU-Familie mit Unterstützung für ROCm und andere Funktionen für…

www.igorslab.de

AMD veröffentlicht ROCm 5.6, optimiert für KI

Hardware-Inside AMD veröffentlicht ROCm 5.6, optimiert für KI

www.hardwareinside.de

 

[Zeitmangel]

Na das ist echt mal ein Paukenschlag

 

[Infi88]

Das Einzige was du wahrscheinlich mit den OpenCL Anwendungen fabriziert hast sind bluescreens Onkel inklusive ROCm, das braucht "der Markt" eben nicht.
Man sollte sich halt eingestehen wenn man auf Seite des Software Backend in Sachen GPGPU überrundet wurde, wobei Nvidia natürlich auch noch Mitglied der Khronos Group ist was natürlich nie Erwähnung findet .

 

[Zeitmangel]

@Infi88
Ich frag mich wie der Frontier jetzt - und mittlerweile rock-stable auf volle Leistung - seine 1.1 Exaflops hinbekommt. Der läuft ja vom Anfang an mit ROCm 6 (damals noch pre-releases). Wie machen die das?

wobei Nvidia natürlich auch noch Mitglied der Khronos Group ist was natürlich nie Erwähnung findet

Vielleicht weil sie da nie mehr taten als OpenCL zu erlahmen?

 

[Onkel Föhn]

Das Einzige was du wahrscheinlich mit den OpenCL Anwendungen fabriziert hast sind bluescreens Onkel inklusive ROCm, das braucht "der Markt" eben nicht.
Man sollte sich halt eingestehen wenn man auf Seite des Software Backend in Sachen GPGPU überrundet wurde

Das Einzige was Du "brauchst/willst", will "der Markt" eben nicht (siehe Link und auch drauf klicken).
Das sollte man sich halt eingestehen !

https://www.pcgameshardware.de/Kuen...ntel-CEO-Branche-will-CUDA-loswerden-1436346/

 

[Infi88]

Wunschdenken und Hirngespinste von Pat sind nicht der Markt, bei Gaudi bzw. dem Habana Labs Fiasko bekommt Jensen direkt einen Lachkrampf den hör ich bis hier.

 

[Zeitmangel]

Wenn mir das mal für mal bisschen schwer proletenhaft vorkommt, dann lese ich das wohl nur nicht richtig oder? Aber Intel hats in der Tat nicht leicht die letzten 5 Jahre Was die wollen oder was Pat will sollte man wohl noch ne Weile nicht wirklich beachten. Muss man leider sagen.

Sonst lassen wir mal #9 so stehen wie es halt steht

Wobei trotz der Wucher in der Neuzeit und der eh schon ewigen Aggressivität, NV sich für ihre Leistungen auch Respekt verdient hat. Auch oder grad was Cuda angeht. Gleiches gilt auch für Intel früher, aber irgendwann ändert sich auch mal die Windrichtung. Hier wie da...