PC für Künstliche Intelligenz

[Joker33]

Hallo zusammen,

ich möchte einen PC kaufen.

Einsatz:
- KI-Arbeiten (Bilder generieren, Bildbearbeitung, LLMs lokal laufen lassen, Fine-Tuning von KI-Modellen)
- Kein Gaming, kein Streaming

Besondere Anforderungen:
- Es muss leise sein! Ich habe aktuell ein Desktop-Replacement-Laptop mit einem 10900K und der ist wahnsinnig laut!
- zweiter PCIE Steckplat für eine zweite Grafikkarte für den Fall, dass ich eine zweite 4090 dazustecken möchte
- Aufrüstbarkeit --> PCIE 5 Steckplätze für SSDs etc..

Monitore, die genutzt werden: Aktuell 2x 28" 4K Monitore @ 60Hz. Langfristig möglicherweise Update auf 2x32" Monitore mit 120-144Hz.

Preis: Etwa 5000 Euro

Zusammenbau: Selbst oder mit Helfern


Mein Vorschlag:

CPU	AMD Ryzen 9 7950X	579.00
GPU	ASUS ROG Strix GeForce RTX 4090 OC	1999.00
RAM	Corsair Vengeance RGB DIMM Kit 96GB, DDR5-6600, CL32-39-39-76, on-die ECC (CMK96GX5M2B6600C32)	393.77
Mobo	ASUS ROG Crosshair X670E Hero	570.00
Cooling	Lian Li Galahad II Trinity Performance 360	169.39
Thermal Compound	Arctic MX-6	6.01
SDD1	Samsung SSD 990 PRO 2TB	148.90
SDD2	Samsung SSD 990 PRO 2TB	148.90
Case	Lian Li LANCOOL III (non RGB)	164.89
Fans	Lian Li Uni Fan P28, 3x 120mm	74.89
PSU	be quiet! Straight Power 12 1200W ATX 3.0	208.00
Drehmomentschraubenzieher 0.1-1.2 Nm für den Zusammenbau (CPU-Kühler, AIO, etc...)	FIRSTINFO H5178 Precision Certified Torque Limiting Screwdriver, 1/4 Inch Hex Bit Holder, 0.1-1.2 Nm/1.33-10.18 In-lb with Double Scale	100.00
Bit Set 1/4, 32 pieces	KS Tools 911.7550 1/4" CLASSIC Bit-Satz, 75mm, 32-tlg.	26.00
	Total	4588.75

Passt das so weit, oder sollte noch was geändert werden?

1) Sollte ich den Lian Li Galahad II Trinity Performance 360 gegen den Deepcool LT720 austauschen? Der Deepcool ist zwar nicht ganz so leistungsfähig laut Benchmarks, aber ist etwas leiser bei Full-Fan-Speed.
2) Sollte der RAM auf dem Mainboard @ 6600 MHz direkt "out of the box" funktionieren?
3) Sind die Asus X670E Mainboards gut? Habe gehört es gibt anscheinend Probleme. Sollte ich besser Gigabyte, MSI oder AsRock nehmen?



Vielen Dank schonmal für eure Hilfe!

 

[Falo999]

2) Sollte der RAM auf dem Mainboard @ 6600 MHz direkt "out of the box" funktionieren?

Die Chance ist etwa so hoch als ob du 5 Richtige Zahlen heute im Lotto tippst.

Bei allen über 6000 Mhz wird die Luft bei AMD Dünn vorallen solltest du dich im Vorfeld was das Thema Speicher OC angeht ausgiebig beschäftigen.
Auch wird offiziell bei mehr als 6000Mhz wird das Takt verhältnis von Infinity Fabric (FCLK) und Speichercontroller (UCLK) von 1:1 auf 2:1 reduziert aber da gibt es halt auch Mainboard die das umgehen.
Realistisch wird aber dann wird vermutlich spätestens bei 6200Mhz und 96 GB Ram Schluß sein ganz selten sieht man bei AMD mal 6400er Screenshots aber im Grundsatz ist bei AMD bei 6000Mhz ohne große Umstände Schluss.
Dazu hat der Speicher den du ausgesucht hast wenn ich das richtig sehe nur 'Intel' XMP-Speicherprofile und kein AMD-Expo Profil (wenn du natürlich alles selber manuell einstellen willst geht es auch ohne EXPO).


Wegen Lautstärke ist folgenes wichtig:
Eine einzige 4090 verbraucht unter Last etwa 2-3mal soviel Leistung wie der 7950X also kann ich dir nur dringend dazu raten pack die GPU(s) unter Wasser wenn du es unter Last nicht so Laut haben willst.
Eine 4090 kann man noch recht gut unter Luft bändigen aber 2 Stück sehe ich keine Chance ohne Wasserkühlung oder halt Lüfter in Fön Lautstärke.

Das ist viel wichtiger als welchen CPU Kühler du verwenden willst der spielt nun wirklich kaum eine Rolle wenn du eh Markenware nimmst.

 

[Hoto]

Kommt bei der 4090 halt wirklich drauf an und ob er wirklich das absolute Maximum an Performance raus holen will. Ich mache auch KI, hab meine 4090 etwas untertaktet, dafür den VRAM übertaktet und die Karte bleibt an sich leise bisher. Gerade wenn ich irgendwas mit KI mache höre ich die Lüfter nie hoch drehen, allerdings hab ich bisher auch noch kein Finetuning gemacht, dazu muss ich den Rest meines Systems erst mal aufrüsten.

Extrem wichtig ist ein Gehäuse mit extrem gutem Airflow um die warme Luft so gut wie es nur geht aus dem Gehäuse zu kriegen und kalte rein. Würde daher ein Gehäuse empfehlen das sowohl hinten als auch oben raus Lüfter hat, gehört da das obere dazu? Wasserkühlung ist aber in der Tat eine Überlegung wert, wenn man sich das zutraut umzusetzen, sonst halt umsetzen lassen, dann kriegt man auf jeden Fall ein sehr leises System zusammen. Auch würde ich ein eher größeres Case empfehlen, mein neues ist breiter und höher als mein altes, hat dadurch genug Platz für die 4090 + Stromanschluss und vor allem viel Luft Volumen.

Außerdem ist nicht die Anzahl der Lüfter entscheidend für die Lautstärke, sondern eher wie groß dieses sind und wie stark diese sich drehen müssen um die Kalte Luft rein und die warme raus zu kriegen. Je größer die Lüfter desto langsamer müssen sie sich drehen für die gleiche Leistung und je mehr Lüfter im Gehäuse sind desto mehr entlasten sie sich gegenseitig. Wichtig sind daher auch gute an sich leise Lüfter.

Ein größeres Problem in Sachen leise könnte da das Spulenfiepen der 4090 werden, die Chance eine solche Karte mit zu erwischen ist recht hoch, wie sehr bei dieses Asus weiß ich nicht. Aber man sollte auch im Kopf behalten, dass Spulenfiepen sich über die Monate auch legen kann, also weniger wird.

Die Frage ist halt wie leise man es wirklich benötigt. Wenn das Teil direkt in der nähe des Betts steht und 24/7 an sein soll (was bei einer KI Kiste oft der Fall ist), klar, dann ist es extrem wichtig, wenn er nur im Alltag im Raum nicht negativ von der Geräuschkulisse auffallen soll, ist es nicht mehr ganz so wichtig. Da ist es oft wichtiger was für eine Art von Geräusch die Lüfter machen damit es nicht nervt.

 

[Falo999]

Kommt bei der 4090 halt wirklich drauf an und ob er wirklich das absolute Maximum an Performance raus holen will. Ich mache auch KI, hab meine 4090 etwas untertaktet, dafür den VRAM übertaktet und die Karte bleibt an sich leise bisher. Gerade wenn ich irgendwas mit KI mache höre ich die Lüfter nie hoch drehen, allerdings hab ich bisher auch noch kein Finetuning gemacht, dazu muss ich den Rest meines Systems erst mal aufrüsten.

Wie schon geschrieben kann man EINE 4090 auch unter Luft gut in den Griff bekommen das große Problem bei 2 GPU's ist halt das praktisch alle Desktop GPU's inzwischen so aufgebaut das sie hinten ja die Luft durch den Kühlkörper blasen und das wäre dann direkt auf die 2. GPU und deswegen sehe ich so große Probleme 2 4090 unter Luft ertragbar ruhig zu kühlen.
So haben die meisten Workstation GPU halt das (bei den Gamern verpöhnte) Blower Design das man mehrere GPU's noch irgentwie gekühlt bekommt:

NVIDIA RTX A6000 mit Ampere-Architektur | NVIDIA

Erschaffen Sie die nächste Generation revolutionärer Designs und fesselnder Unterhaltungserlebnisse

www.nvidia.com

 

[Hoto]

Ja, stimmt schon, gerade auch weil die 4090er ja 2,5-3 Slots fett sind, da ist nicht viel Luft zwischen den Karten vorhanden. Vielleicht könnte man in einem passenden Gehäuse aber die zweite 4090 mit einem PCI-e Adapter anders verbauen?

 

[Alpha11]

PC Setup für Machine Learning, Dual GPU

Hi, 1. Möchtest du mit dem PC spielen? Wenn ja, was? Satisfactory, No Mans Sky, Fortnite 2. Möchtest du den PC für Bild-/Musik-/Videobearbeitung oder ähnlich nutzen? Als Hobby oder bist du Profi? Welche Software wirst du nutzen? Professionell für Machine-Learning-Modelle 3. Hast du besondere...

www.hardwareluxx.de

 

[Joker33]

Hallo zusammen!

Vielen Dank für die Rückmeldungen. Hatte mir das mit einer wassergekühlten RTX4090 auch schon überlegt, z.B. MSI GeForce RTX 4090 Suprim Liquid X 24G.

1. Stimmt das, dass Grafikkarten mit AIO nicht so langlebig sind wie luftgekühlte Grafikkarten?
2. Könnt Ihr mir ein größeres Case mit gutem Airflow empfehlen, in welches dann auch noch eine GPU mit AIO passt? Evtl. Corsair 7000D?
3. Im Falle, dass ich doch nicht eine 2. 4090 aufrüsten werde, gibt es irgendwelche Nachteile eine Grafikkarte mit AIO zu verbauen?


Vielen Dank und viele Grüße!!

 

[thom_cat]

1. Stimmt das, dass Grafikkarten mit AIO nicht so langlebig sind wie luftgekühlte Grafikkarten?

woher kommt denn diese aussage?

 

[Scrush]

vor allem ergibt das so wenig Sinn

die karte selbst ist sofern das pcb ein spezielles ist auf die aio angewiesen. zumal du eine luftkühler ja nicht mitgeschickt bekommst.

geht die aio hops wars das mit der karte außer das PCB ist ein universelles und dann kannste ne custom loop bauen.

eine reine AIO karte würd ich mir persönlich nicht kaufen. wenn die pumpe nach ablauf der garantie stirbt, kannst du dir nen custom loop bauen für 500 euro oder du wirfst das ding in die tonne

 

[Hoto]

Ja, da wäre mir die 4090 auch zu teuer für so ein Risiko. Dann lieber Asus auf Wasserkühlung umrüsten und den Luftkühler in Reserve behalten, für den Fall der Fälle.

 

[Joker33]

Hallo zusammen! Ich denke, so werde ich es dann auch machen. Ich werde erstmal die ASUS Karte mit Luftkühlung einbauen. Falls ich dann eine 2. Karte kaufe, werde ich dann beide auf Wasserkühlung umrüsten.

Noch 2 Fragen:

1. Reicht ein 1200W Netuteil bei einer Aufrüstung auf 2x4090 oder sollte ich lieber ein 1500W Netzteil für den Fall der Fälle nehmen?
2. Welches größere Case wäre dafür geeignet eine 2. 4090 aufzunehmen und hätte genug Platz für die Wasserkühlungen?

 

[pillenkoenig]

Hast du mal geschaut was fertige Workstations für den von dir angedachten Zweck kosten?

Rumgepimmele mit Asus consumer Schrott oder gar Wasserkühlungsexperimente würde ich bei einem Rechner, mit dem gearbeitet werden soll nach Möglichkeit vermeiden.