Deep learning workstation auf budget zusammenstellen

[Edmunds]

Plane eine workstation konfiguration für:
>>CUDA, Deep Learning

besondere Anforderungen?

• Ins Mainboard sollten mind. 2 GPUs passen (idealerw. 3). Wenn gegen monatsende der aktuell von NVIDIA gesetzte stimmt, vorerst eine RTX 3080 oder 3090 (später dann noch 1-2 weitere 3080 in die restlichen slots)
• EDIT: bei mehreren 3080ern (oder 3080 + 3090), hab ich gelesen dass es mit dem mainboard schwierig werden könnte. also dass evlt ein extra slot oderso her muss (bin nicht 100% sicher was gemeint ist).
• CPU sollte idealerweise 12 kerne haben.
• 1 TerraByte SSD (M.2 slot)
• 128 bis 256GB RAM

Monitore? nicht so wichtig, im keller liegen noch alte VGA monitore die vorerst reichen

Budget? 1k (ohne die GPUs) EDIT: 1.2K


Wann muss ich michentschieden haben?
bis ende diesen monat. (weil muss einen zeitplan einhalten und die GPUs sollten anfang oktober schon lauffähig sein)

selbst zusammenbauen / zusammenbauen lassen? lieber selbst (aber noch keine Erfahrung, oder überschätze ich mich?)

Das setup soll in einem relative kühlen untergeschoss stehen und am stück 30-60 Tage als Workstation durchlaufen. Deep Learning, also kein Gaming.
Lautstärke ist nicht soo wichtig (hoffe nur dass es meinen mitbewohnern nicht zu sehr auffällt, weil ich keine neider anlocken möchte (vonwegen blablabla zahl mehr miete wegen brandgefahr, etc, Stromkosten werde ich aber selbsverständlich bezahlen ),
also die maschine sollte nicht uunbedingt auffallen, aber hat nicht priorität.
Performance steht absolut im vordergrund.!

Habt ihr konkrete vorschäge wie ich das budget am effizientesten mit den oben genannten bedingungen ausschlachten kann?


EDIT: Ergänzung:
Kann evtl. noch 200€ extra (also ingesamt 1200 aufkratzen)
Zuerst sollen nur 1-2 GPUs rein, wenn die dritte kommt kann das Netzteil aufgerüstet werden.
GPUs haben priorität, weil Deep Learning (auf CPU wird nicht trainiert, sondern Daten Preprocessing betrieben, was bei mir jedoch sehr aufwändig ist, deshalb eher 12 statt 8 Kerne vorgeschlagen).


Bisher steht:

GPU:	erstmal 1-2 3080, dann 3090 (& neue PSU) (Mit Riser-karte machbar?) eventuell Overclocking	nicht im Budget enthalten, weil nachrüstung
CPU:	AMD 3900X	400€
MB:	X570 (Welches?)	~300€
PSU	welches? (beachte 24/7 dauerbetrieb)	150-300€
Kühler	Welcher? (beachte 24/7 dauerbetrieb)	bis 100€
RAM	128GB Welcher?	~400€
Case	Welches ideal für zweck (Airflow, etc) ?	~100€

 

[Mo3Jo3]

Wieso Deep Learning über CUDA? Sind Tensorkerne nicht deutlich effektiver für diese Anwendung?

Und wenn ich mich nicht irre, brauchen DL Berechnungen viel RAM und Bandbreite. Ein Threadrippersystem wäre dabei von großem Vorteil. Auch für die zusätzliche Anbindung von 3 Grakas.

Dein Budget ist für deine Vorstellung lächerlich klein, alleine 128GB RAM kosten um die 400-500€.
Bei einem aktuellen Threadripper 3000 fängt der Spaß sogar erst bei 24Kernen/1300€ an........

 

[2k5lexi]

4x 32gb ram = 600€
Ryzen 3900x = 450€
1000W NT = 150€
B550 Mobo = 150€
SSD = 100€
Gehäuse = 100€

 

[Man-in-Black]

wenn du wirklich nur 1k ausgeben willst (ohne Grakas) wirst ein paar Abstriche machen müssen.
Und wenn er wirklich "3" mind. 3080 in das System packen will, sind dann 1000W ausreichend @2k5lexi ?
Die sind ja mit 320W angegeben pro Graka, sprich zusammen 960W. Und die CPU hat sicher auch Hunger

 

[2k5lexi]

wenn du wirklich nur 1k ausgeben willst (ohne Grakas) wirst ein paar Abstriche machen müssen.
Und wenn er wirklich "3" mind. 3080 in das System packen will, sind dann 1000W ausreichend @2k5lexi ?
Die sind ja mit 320W angegeben pro Graka, sprich zusammen 960W. Und die CPU hat sicher auch Hunger

3 Karten bekommt unser TE ohne Riserkarten allein aus Platzgründen nicht hin, sprich 3 Stk wären extrem großer Aufwand.
Davon ab wäre unser TE bei 3 Karten dann nicht mehr bei B550, sondern mindestens 300€ X570, eher aber noch bei strx4. Und spätestens da explodiert der Anschaffungspreis auf mindestens das 3-fache.

Ich hab deswegen nur 2 angenommen.


Edit:
X399/TR4 mit Threadripper 2950x könnte noch ne Idee sein. Spart Kosten beim Ram und bietet 2x PCIe 3.0 x16. Das AsRock X399 Taichi wäre ein gutes Board - da können die Grafikkarten dann wenigstens halbwegs atmen.

https://gzhls.at/blob/ldb/0/c/c/7/ec4fd11e9ef36caf68ae0b3fa0707888ddde.pdf

Die dritte 3080 bekommt man aber auch nicht unter ohne Riserkarte.

 

[Edmunds]

wie sieht so eine implementation mit riserkarte aus und woran hällt die gpu dann? (sry falls die frage von seltsam ist, ist schon ewig her, musste bisher noch nie einen Desktop pc zusammenbauen) (Frage 1)

AMD 3900X (400€) und X570 (~300€) sollte machbar sein. An welchen Kriterien (ausser AM4 & PCIe slots) weiß ich für welches X570 ich mich entscheiden kann? (Frage 2)
Bei passendem PSU, Kühler, Case bin ich immernoch überfragt.

EDIT:
Bisher steht:

GPU:	erstmal 1-2 3080, dann 3090 (& neue PSU) (Mit Riser-karte machbar?) eventuell Overclocking	nicht im Budget enthalten, weil nachrüstung
CPU:	AMD 3900X	400€
MB:	X570 (Welches?)	~300€
PSU	welches? (beachte 24/7 dauerbetrieb)	150-300€
Kühler	Welcher? (beachte 24/7 dauerbetrieb)	bis 100€
RAM	128GB Welcher?	~400€
Case	Welches ideal für zweck (Airflow, etc) ?	~100€
SSD	M.2 SSD beliebig	~100€
		anscheinend doch ~ 1.5k-1.7k€

 

[Edmunds]

Halb fertiges setup nur ein parr unstimmigkeiten:

Zweck: Ich trainiere mehrere tensorflow.keras LSTM-Modelle (6-30) auf Datensätzen, die stapelweise voneinander abhängig sind. Datensätze sind float32-numerisch.
Das setup läuft 30-60 Tage lang rund um die Uhr 24/7. Und es wird in einer evtl staubigeren Umgebung stehen (mein Keller -> relativ kühl), wenn alles klappt. ansonsten wird sie in einem arbeitszimmer 1.EG stehen welches eher klein ist (15qm). Bitte beachtet die Staub -Airflow - Beziehung in beiden fällen.
kurz: Deep learning.

Wie plane ich zukünftig aufzurüsten? So:
1. eine 2te GPU RTX3080 o. RTX3090 in den nächsten monaten (finanziell erst dann sinnvoll)
2. eine 3te GPU im nächsten Jahr (RTX 3090)
3. ende nächsten Jahres 3 RTX3090 (Ti?) in der workstation stehen haben und RTX 3080 weggeben o. woanders nutzen.

Habe also folgendes zusammengestellt:


CPU & Mainboard:
CPU: AMD 2920X vs AMD 1920X (250-400€)
MB: ~ ASROCK Taichi X399 310€ vs ASROCK Phantom Gaming X399 (240€)

Setup:
GPU: Zotac RTX 3080 (700€)
PSU: Corsair HX1200i (24h/7 betrieb + sollte ausreichen für 2te 3080 in paar monaten). (mit 3ter GPU kann ich auch PSU upgraden) (
RAM: Corsair Vengeance LPX 64GB 3000MHz (4x16GB) x2 (128GB)
Case: ??? (denke an airflow & staub)
Kühler: Noctua NH-U12S (Aircooler, zumindest jetzt. => upgrade mit 3ter GPU)
SSD: Samsung 970 NVMe EVO o. bessere alternativen?

Nun müsste ich nurnoch 2 Sachen wissen:
a) Sind die teile kompatibel (vor allem CPU-mainboard- kombi zum restlichen plan mit den 3 GPUs)
b)Bei dem alternativen Mainboard "ASROCK Phantom-Gaming X399" sind nur (3 mal 16x), beim "Tai-chi" sind es hingegen (2 mal 16x) + (2 mal 8x):
==> Würde denn eine 3te RTX3090 überhaupt darein passen? oder komme ich bei beiden nicht um eine Riserkarte herum? (Phantom wäre dann günstiger)
c) welches case ist für meinen keller und 1.eg geeignet? (Größe spielt auch eine rolle, da 2 o. 3 mal RTX 3090 zukünftig geplant)


Wenn ihr alternativen habt sind diese selbstverständlich willkommen

 

[Mo3Jo3]

@Edmunds

Mainboard evtl das hier?

Pro WS X570-ACE｜Mainboards｜ASUS Deutschland

www.asus.com

CPU kühler

be quiet! Dark Rock Pro 4 | Preisvergleich Geizhals Deutschland

✔ Preisvergleich für be quiet! Dark Rock Pro 4 ✔ Bewertungen ✔ Produktinfo ⇒ Bauart: Tower-Kühler (Dual-Tower) • Abmessungen mit Lüfter: 136x163x146mm (BxHxT) • Lüfter: 1x 135x135x22… ✔ CPU-Kühler ✔ Testberichte ✔ Günstig kaufen

geizhals.de

Beim RAM ECC oder normal mit mehr Takt?

Bei Netzteile gibt es keine 24/7 Zertifizierung, da wird auf Redundanz gesetzt.
Das NT sollte es für zwei Grakas tun, bei drei würde ich noch mehr Leistung nehmen.

be quiet! Straight Power 11 CM 1000W ab 190,77 € (Januar 2021 Preise) | Preisvergleich bei idealo.de

Bereits ab 190,77 € ✓ Große Shopvielfalt ✓ Testberichte & Meinungen ✓ | Jetzt be quiet! Straight Power 11 1000W CM PC Netzteil günstig kaufen bei idealo.de

www.idealo.de

die M.2 mit PowerLoss Protection

Kingston Data Center DC1000B 480GB ab 111,99 € | Preisvergleich bei idealo.de

Bereits ab 111,99 € ✓ Große Shopvielfalt ✓ Testberichte & Meinungen ✓ | Jetzt Kingston Data Center DC1000B 480GB SSD günstig kaufen bei idealo.de

www.idealo.de

Und Case, ka.....

 

[Edmunds]

@Edmunds

Mainboard evtl das hier?

Pro WS X570-ACE｜Mainboards｜ASUS Deutschland

www.asus.com

CPU kühler

be quiet! Dark Rock Pro 4 | Preisvergleich Geizhals Deutschland

✔ Preisvergleich für be quiet! Dark Rock Pro 4 ✔ Bewertungen ✔ Produktinfo ⇒ Bauart: Tower-Kühler (Dual-Tower) • Abmessungen mit Lüfter: 136x163x146mm (BxHxT) • Lüfter: 1x 135x135x22… ✔ CPU-Kühler ✔ Testberichte ✔ Günstig kaufen

geizhals.de

Beim RAM ECC oder normal mit mehr Takt?

Bei Netzteile gibt es keine 24/7 Zertifizierung, da wird auf Redundanz gesetzt.
Das NT sollte es für zwei Grakas tun, bei drei würde ich noch mehr Leistung nehmen.

be quiet! Straight Power 11 CM 1000W ab 190,77 € (Januar 2021 Preise) | Preisvergleich bei idealo.de

Bereits ab 190,77 € ✓ Große Shopvielfalt ✓ Testberichte & Meinungen ✓ | Jetzt be quiet! Straight Power 11 1000W CM PC Netzteil günstig kaufen bei idealo.de

www.idealo.de

die M.2 mit PowerLoss Protection

Kingston Data Center DC1000B 480GB ab 111,99 € | Preisvergleich bei idealo.de

Bereits ab 111,99 € ✓ Große Shopvielfalt ✓ Testberichte & Meinungen ✓ | Jetzt Kingston Data Center DC1000B 480GB SSD günstig kaufen bei idealo.de

www.idealo.de

Und Case, ka.....

Ich bitte um verzeihung, hab an der nachrichten glocke gecampt, aber diesen beitrag nicht aufleuchten bekommen.

MB: Ich glaube wenn es tatsächlich 3x RTX 3090 dual slot an ein X399 passen sollten wäre es doch ein X399
CPU Kühler: dark-rock-pro-4 soll einer der besten sein, gegenüber dem noctua aber mit fokus auf stille. Also: Wenn 3 GPUs im kasten flattern (tensorflow) und nur parallelisierte einfache berechnungen ausführen sodass die CPU nicht wirklich hoch ausgelastet ist => Wie weit musst die CPU dann gekühlt werden ? würd ich gerne noch wissen, weil es im case nicht gerade kühl sein wird.
Kurz: wie schnappt sich die CPU passiv die Hitze von den GPUs auf?

PSU: Kannst du redundanz vielleicht etwas erläutern, Ist das sowas wie eine not PSU innendrinnen die ausfall und somit datenverlust vermeidet? Wenn ja wo ist dann der unterschied zwischen einem Cosair AX1200i und einem HX1200?

M.2: die Samsung hat doch höhere raten oder?
Samsung


EDIT: gibt es ein mittelding, was das schreiben nicht ganz vernachlässigt, weil ich mit 128GB RAM schon einen kompromiss machen muss (Daten auf SSD schreiben, und später wieder batchwise importieren)

Write Speed	2500
Read Speed	3400 Megabytes Per Second

Lesen	3400 MB/s
Schreiben	600 MB/s

 

[Thorsteen]

Mainboard evtl das hier?

Von dem Mainboard kann ich nur abraten!
Der Grund dafür ist das der erste PCIe-Slot zu tief sitzt, das mag bei einer Konfiguration mit 2 GPU gehen, aber bei 3 GPU sehe ich das Desaster schon voraus. Das in meinen Augen beste Boarddesign hat das Asrock TRX40 Creator.

ASRock TRX40 CREATOR - AMD Sockel sTRX4 | Mindfactory.de

Desktop Mainboards von ASRock | ASRock TRX40 CREATOR :: über 240 verkauft :: 25 Jahre Kompetenz | Hier bestellen

www.mindfactory.de

Einfach mal die Fotos vom Board betrachten und den obersten Slot ansehen, LINKS von ihm sieht man die Befestigung vom Mainboard im Gehäuse. Und genau da sieht man oft das viele Boards tiefer liegen und man somit nicht die erste Slotblende nutzen kann. Bei 1 oder 2 Karten kein Thema, aber wehe man baut noch andere Karten dazu, dann ist selbst ein 1-Slot-Design plötzlich nervig.

Eventuell kennt ja noch jemand ein Board für den AM4 der das auch hat, aber ich kann aus eigener bitterer Erfahrung sagen das diese "Kleinigkeit" sehr nervig werden kann.

Das ist in einem W200, man sieht das die Karte schon einen Slot auslässt, einfach weil das Aorus-Board genau wie das Asus von Oben erst einen kleinen Slot hat und erst dann einen vollen PCIe.
Man sieht an der unteren Kante vom Mainboard (ATX-Format) auch das man bei einer vierfach Bestückung vom Asrock Creator ein Gehäuse bräuchte das mindestens 8 Slotblenden anbietet, das W200/100 hat 10 Blenden zur Verfügung. Wenn muss er sich da ganz genau vorher überlegen Was er genau Wie machen will. Aber wenn ich die Budgetliste von Oben sehe dann sehe ich keine wirkliche Möglichkeit das Ganze zu realisieren. 128 GB Ram für 400€ dürfte spannend werden. 32 GB Module fangen so ab 120€/Stück an. Netzteil braucht man unter 1.500W wohl auch nicht anfangen wenn man Spitzen und Alterung abfangen will. Eventuell sogar gleich ein 2 kW-Netzteil rein, wenn es so etwas überhaupt gibt.

Ich glaube wenn es tatsächlich 3x RTX 3090 dual slot an ein X399 passen sollten wäre es doch ein X399

Klar gibt es Boards dafür, sogar für 4 Karten.

ASRock > X399 Taichi

ASRock Super Alloy; Supports AMD TR4 Socket Ryzen Threadripper Series CPUs; IR Digital PWM, 11 Power Phase & Dr. MOS; Supports Quad Channel DDR4 3600+(OC) & ECC UDIMM Memory; 4 PCIe 3.0 x16, 1 PCIe 2.0 x1; NVIDIA 4-Way SLI™, AMD 4-Way CrossFireX™; 7.1 CH HD Audio (Realtek ALC1220 Audio Codec)...

www.asrock.com

Wie weit musst die CPU dann gekühlt werden ?

Die TR1 werden von AMD mit 68 Grad spezifiziert, TR2 mit 95 Grad. Hatte ich auch schon geschrieben gehabt. Und genau deswegen sind die TR1 für deinen Fall nicht das beste oder aber er muss vernünftig gekühlt werden. Weil was die Backplates der GraKas an Wärme ins Gehäuse lassen, das dürfte auch noch spannend werden. Und wenn man dem besten Kühler der Welt nur warme oder heiße Luft serviert, dann kann der auch nicht viel daraus machen. Und noch ein Vergleich zwischen TR2 und AM4, die TR2-Cpu lässt sich in meinem Rechner weit besser kühlen als der AM4, beide CPUs hängen im selben Kreislauf und man merkt das die größere Fläche vom Heatspreader vom TR2 sehr viel ausmacht. Und der AM4 bei mir ist nur ein 3900X.

gibt es ein mittelding, was das schreiben nicht ganz vernachlässigt, weil ich mit 128GB RAM schon einen kompromiss machen muss (Daten auf SSD schreiben, und später wieder batchwise importieren)

Die Frage ist was dir überhaupt übrig bleibt. AM4 hat ja nicht so viele Lanes wie der TR. Und selbst dem gehen irgendwann die Lanes aus wenn du da 3 x 16 benötigst (was du vermutlich gar nicht brauchst). Und man kann die M.2 noch zu einem Raid zusammen fassen, aber dann halt mit den üblichen Risiken. Das sieht dann so aus:

Da es nur günstige M.2 sind die ich da zusammen gefasst habe würde man sogar noch höhere Leistungen erzielen wenn man andere nimmt, aber dann explodieren die Kosten für einen nur sehr geringen Mehrwert. 4 GB mit rund 20 GB/s lesend, 19 GB/s schreibend liegen bei etwa 850€, in der Realität dürfte man die Werte nicht wirklich merken.

 

[Henrikassette]

Wäre nicht ein Rack Gehäuse ne gute Sache dafür? Kann man gut unterbringen und hat einen einfachen Airflow (Von Vorne nach Hinten durchblasend)

 

[Mo3Jo3]

Kannst du redundanz vielleicht etwas erläutern, Ist das sowas wie eine not PSU innendrinnen die ausfall und somit datenverlust vermeidet?

Redundanz bedeutet, dass mehrere Netzteile verbaut werden, wenn eins kaputt geht, übernimmt das zweite.
Was es auch gibt, sind USVs. Die übernehmen kurzzeitig die Stromversorgung, damit sich das System ordnungsgemäß runterfahren kann. Eine Unterstützung im Betriebssystem ist glaube ich auch nötig.

M.2: die Samsung hat doch höhere raten oder?
Samsung

Welche Samsung? Die SSD, welche ich verlinkt habe, ist nicht für maximale Geschwindigkeit, sondern für 24/7 Betrieb und Zuverlässigkeit gebaut.
Wenn es eine Samsung sein muss:

Samsung SSD PM983 960GB, M.2 22110 / M-Key / PCIe 3.0 x4 | Preisvergleich Geizhals Deutschland

✔ Preisvergleich für Samsung SSD PM983 960GB, M.2 22110 / M-Key / PCIe 3.0 x4 ✔ Produktinfo ⇒ Kapazität: 960GB (entspricht ca. 894.07GiB, weiterführende Informationen hierzu ) • Bauform: Solid State … ✔ Solid State Drives (SSD) ✔ Testberichte ✔ Günstig kaufen

geizhals.de

Wie du siehst ist die auch langsamer als die anderen Samsung. Ist halt eine Server SSD

@Thorsteen

Dass evtl ein Riserkabel bei drei Grakas verwendet werden muss, war oben schonmal erwähnt worden.
Wir waren bei X570 gelandet, um den Preis im Rahmen zu halten. Daher auch das Mainboard.

Bezüglich RAID, wäre wenn überhaupt nur ein Raid1 interessant. Damit kommt man zumindest auf >10Gb/s Lesend, aber halt nur auf Standard Schreibwerte.

 

[Fatal Justice]

Die TR1 werden von AMD mit 68 Grad spezifiziert, TR2 mit 95 Grad. Hatte ich auch schon geschrieben gehabt. Und genau deswegen sind die TR1 für deinen Fall nicht das beste oder aber er muss vernünftig gekühlt werden. Weil was die Backplates der GraKas an Wärme ins Gehäuse lassen, das dürfte auch noch spannend werden. Und wenn man dem besten Kühler der Welt nur warme oder heiße Luft serviert, dann kann der auch nicht viel daraus machen. Und noch ein Vergleich zwischen TR2 und AM4, die TR2-Cpu lässt sich in meinem Rechner weit besser kühlen als der AM4, beide CPUs hängen im selben Kreislauf und man merkt das die größere Fläche vom Heatspreader vom TR2 sehr viel ausmacht. Und der AM4 bei mir ist nur ein 3900X.

Die Frage ist was dir überhaupt übrig bleibt. AM4 hat ja nicht so viele Lanes wie der TR. Und selbst dem gehen irgendwann die Lanes aus wenn du da 3 x 16 benötigst (was du vermutlich gar nicht brauchst).

In der tat, man sollte vorher genau wissen, was man will und wie es umgesetzt werden soll, das spart unheimlich Zeit und Geld.

Die Abdeckplatten der Grafikkarten haben häufig Wärmeleitkissen und nehmen Abwärme vom PCB im Bereich des Sockels auf. Das ist aber nicht extrem viel. Man merkt das die warm sind. Die Radialgebläse werfen große Teile der Luft hinten raus, der Rest der verbleibt ist für den Innenraum unktitisch. Ohne Abdeckplatte ist die Kühlung sogar besser, da die obere Karte mehr Luft bekommt. 2-3mm mehr Platz können entscheidend sein, das habe ich selber ausprobiert. Ich habe sie drin für mechanischen Schutz und aus äthestischen Gründen.

X399 bindet nur 2 mal 3.0 x16 an und 2x 3.0 x8, was zu Leistungseinbußen fühen kann. Hier ist TRX40 auch wieder die bessere Basis

 

[Thorsteen]

Dass evtl ein Riserkabel bei drei Grakas verwendet werden muss, war oben schonmal erwähnt worden.

Nun wenn das Gehäuse nicht wirklich genügend Platz bietet dann kann man das vergessen, die meisten Aussparungen für GraKas auf Riserkarten sitzen sehr dicht über den Slotblenden. Sind dann die Karten im Mainboard zu hoch dann kollidieren die im schlechtesten Fall mit der Karte auf dem Riserextender. Normal sind die ja nur für den Einbau einer Karte gedacht, das noch jemand noch welche normal verbaut wird von den Herstellern einfach nicht eingeplant. Daher ist ein paralleler Einbau immer besser.

Wir waren bei X570 gelandet, um den Preis im Rahmen zu halten. Daher auch das Mainboard.

Ein System wo allein die Grafikkarten zwischen 4.500 bis 5.000€ kosten, warum will man da noch den Preis im Rahmen halten? Da kommt es auf 800 oder 900€ Mehrausgaben bald nicht mehr an. Dafür hätte man dann ein System das zukunftssicher ist (soweit man das bei PCs sagen kann), ein 24 Kerner dürfte noch eine Weile im alltäglichen Betrieb taugen. Ich halte die ganze Systemidee für kompletten Unsinn. Man dürfte am Ende bei rund 7.000-8.000€ Gesamtkosten stehen, ein System was jeden Monat über 300€ Strom verbrät und was genau macht? Da braucht man sich über "preislich im Rahmen bleiben" eigentlich wirklich keine Gedanken mehr machen. Klar kann jeder mit seinem Geld machen was er will, mein komplettes System kommt auch auf den Preis, aber damit kann ich produktiv was machen und damit arbeiten. Und ich würde nicht 7.000€ zum Fenster raus hauen, wenn ich damit kein handfestes Ergebnis erzielen kann, und dann auch etwas davon zurück kommt. Fürs reine Experimentieren und programmieren würde ich mir so ein System nicht hinstellen, das geht weit einfacher und vor allem günstiger. Und sollte es wirklich SO extrem zeitkritisch sein, dann sollte man erst Recht anders an die Sache rangehen. Und einer der Punkte ist die massive Fixierung auf die 3090, bei der ganzen Geldausgabe würde ich zb. erst einmal abwarten. Es kommt Zen3, es kommen die ganzen 30XX-Customkarten im Lauf der Zeit, es kommen vermutlich noch Modelle mit mehr Speicher etc. Und ich habed mir mal einen Vergleich für Deep Learning rausgesucht (ich mache damit nichts und daher kriege ich das nur am Seitenrand mit, aber wenn ich die Werte ansehe dann wüsste ich genau was ich machen würde, wenn es denn einen Nutzen bringen würde):

Quelle: https://timdettmers.com/2020/09/07/which-gpu-for-deep-learning/#GPU_Deep_Learning_Performance

Man merkt das die warm sind. Die Radialgebläse werfen große Teile der Luft hinten raus, der Rest der verbleibt ist für den Innenraum unktitisch. Ohne Abdeckplatte ist die Kühlung sogar besser, da die obere Karte mehr Luft bekommt. 2-3mm mehr Platz können entscheidend sein, das habe ich selber ausprobiert.

Ich habe vorhin von IgorsLab sein Video zu den Temps im Speicher der 3080 gesehen, das dürfte einige RMAs geben. Vor allem wenn das ganze so dicht gepackt ist wie im angedachten Rechner. Undervolting dürfte damit wohl zum neuen Freund der RTX30XX-Serie werden.

 

[Mo3Jo3]

Ich halte die ganze Systemidee für kompletten Unsinn. Man dürfte am Ende bei rund 7.000-8.000€ Gesamtkosten stehen, ein System was jeden Monat über 300€ Strom verbrät und was genau macht?

Ja genau, deshalb der Vorschlag ein X570 System für ~ 1500€ und drei Grakas für 2100€, nicht 5000€....
Macht zusammen ~3600€ (inkl. drei 3080!) also schonmal weniger als die Hälfte deiner angepeilten 7000-8000€. Die Grakas lassen sich ja auch bei Bedarf nacheinander kaufen und das System aufrüsten.

Aber jeder redet ihm ein, eine Hedt-Plattform zu benötigen, um ihm danach zu sagen, dass es für ihn zu teuer ist.... dann kommt schon wieder Tr4 wegen P/L ins Spiel und wir drehen uns im Kreis.

Und wenn man dieses Thema zu seinem Hobby machen will, wieso sollte er dann keine 7000€ dafür ausgeben. 300€ Strom im Monat? (jetzt kommt wieder der Autovergleich). Ein anderer Zahlt 300€ mehr Sprit im Monat für sein Runden um den Nürburgring...
(und was macht man da genau? Nur im Kreis rum fahren)

Die 3090 ist dem Benchmark nach wirklich massiv überteuert für die Mehrleistung, die geboten wird.

edit:
@Edmunds

hast du schonmal daran gedacht?

Was ist Deep Learning? – Deep Learning KI erklärt – AWS

Was Deep Learning ist, wie und warum Unternehmen Deep Learning nutzen und wie Deep Learning mit AWS genutzt wird.

aws.amazon.com

 

[Fatal Justice]

Ich habe vorhin von IgorsLab sein Video zu den Temps im Speicher der 3080 gesehen, das dürfte einige RMAs geben. Vor allem wenn das ganze so dicht gepackt ist wie im angedachten Rechner. Undervolting dürfte damit wohl zum neuen Freund der RTX30XX-Serie werden.

Ja, das hat Potenzial im negativen Sinne. Über hundert Grad normal, bei 110 Grad greifen die Schutzmechanismen, bei 120 Grad droht der Exitus. Im Grund möchte man warten, ob nicht ein vorschnelles Sterben der Karten/VRAM einsetzt, wie bei Turing auch schon.

 

[Kullberg]

Ich hab mehrere CUDA Rechner. Ein Problem dabei ist die Kühlung. Mehr als 1 RTX 2080 Ti funzt bei mir nur, wenn mindestens 1 Blower Karte dabei ist. Da es keine 3080 oder 3090 blower gibt, glaube ich kaum, dass 2 Grakas wirklich gut in einem Gehäuse funktionieren - außer man hat eine extrem gute Durchlüftung. 3 Grakas wird höchstens in einem speziellen Minig Gehäuse klappen.

 

[Fatal Justice]

Gigabyte bietet eine 3090 mit Radialgebläse an. Die Karten lassen sich auch als Block verbauen, ohne dass Überhitzung droht. Die Akustik ist natürlich nicht mit der von Axialgebläsen vergleichbar.

 

[Kullberg]

Gigabyte bietet eine 3090 mit Radialgebläse an. Die Karten lassen sich auch als Block verbauen, ohne dass Überhitzung droht. Die Akustik ist natürlich nicht mit der von Axialgebläsen vergleichbar.

Ist ja spannend - hast Du mal nen Link?

 

[Fatal Justice]

Bitte:

GeForce RTX™ 3090 TURBO 24G Key Features | Graphics Card - GIGABYTE Global

Discover AORUS premium graphics cards, ft. WINDFORCE cooling, RGB lighting, PCB protection, and VR friendly features for the best gaming and VR experience!

www.gigabyte.com

 

[Kullberg]

Sieht solide aus. Schade, dass es keine 3080 als blower Version gibt. Bei meiner Anwendung (Schach) ist der Speicherausbau der Graka unwichtig - und das Preis/Leistungsverhältnis ist sehr wichtig.

 

[Fatal Justice]

Ich kann mir gut vorstellen, dass die auch noch kommt. Die 3080 ist ja für viele deutlich attraktiver. Für z.B. ein kleines ITX Gehäuse durchaus brauchbar.

 

[Edmunds]

Nun wenn das Gehäuse nicht wirklich genügend Platz bietet dann kann man das vergessen, die meisten Aussparungen für GraKas auf Riserkarten sitzen sehr dicht über den Slotblenden. Sind dann die Karten im Mainboard zu hoch dann kollidieren die im schlechtesten Fall mit der Karte auf dem Riserextender. Normal sind die ja nur für den Einbau einer Karte gedacht, das noch jemand noch welche normal verbaut wird von den Herstellern einfach nicht eingeplant. Daher ist ein paralleler Einbau immer besser.



Ein System wo allein die Grafikkarten zwischen 4.500 bis 5.000€ kosten, warum will man da noch den Preis im Rahmen halten? Da kommt es auf 800 oder 900€ Mehrausgaben bald nicht mehr an. Dafür hätte man dann ein System das zukunftssicher ist (soweit man das bei PCs sagen kann), ein 24 Kerner dürfte noch eine Weile im alltäglichen Betrieb taugen.

Please keep in mind: in kann mir die Grafikkarten die zwischen 4.500 bis 5.000€ noch nicht leisten.
erstmal ist nur eine 3080 machbar. das setup wird trotzdem nächsten monat gebraucht. die ersten 2 3090s sollen bis ende nächsten jahres rein.
EDIT: ich konnte leider nur bis zu diesem kommentar nachlesen, weil ich heute ein bisschen unter zeitdruck stehe, bitte verzeiht.

 

[2k5lexi]

Ich würde auf jeden Fall ein paar 120mm Lüffis irgendwie auf die Grafikkarten schnallen, dass da etwas Luft zwischen die Karten geht. Wahrscheinlich Ghetto-Mod.
Wär doch schade wenn die oberste und die mittlere Karte verrecken, weil sie keine Frischluft bekommen.

 

[Edmunds]

Gentlemen (n' ladys),
was schätzt ihr was zuerst "kaufbar" sein wird:

• RTX 3080 Blower
• RTX 3080 Watercooled
• RTX 3090 Blower
• RTX 3090 Watercooled

Und wann die erste von den genannten (zu retail-preis) erhältlich sein wird?
Wenn das vor meiner 3080 zotac kommt und ich eine ergattern kann, geht die zotac höchstwahrscheinlich zurück zu amazon... (falls sie überhaupt mal kommt )

Beitrag automatisch zusammengeführt: 21.09.2020

hast du schonmal daran gedacht?

Was ist Deep Learning? – Deep Learning KI erklärt – AWS

Was Deep Learning ist, wie und warum Unternehmen Deep Learning nutzen und wie Deep Learning mit AWS genutzt wird.

aws.amazon.com

sehr wohl. Für meine zwecke lohnt es sich gleich die Hardware selbst zu kaufen ^^

 

[2k5lexi]

Und wann die erste von den genannten (zu retail-preis) erhältlich sein wird?

Verfügbarkeit wird das größte Thema sein und wieviele Leute ausrasten und alles kaufen was geht - bzw. wann die Nachfrage sich normalisiert hat und dann auch die Preise Normalniveau haben.
Ich schätze ca. Februar, nachdem die Leuts die Weihnachtskohle ausgegeben haben.

 

[Edmunds]

Verfügbarkeit wird das größte Thema sein und wieviele Leute ausrasten und alles kaufen was geht - bzw. wann die Nachfrage sich normalisiert hat und dann auch die Preise Normalniveau haben.
Ich schätze ca. Februar, nachdem die Leuts die Weihnachtskohle ausgegeben haben.

Hört sich gut an^^. Weil meine ersten ergebnisse schon im dezember fertig sein sollten.

EDIT: da mir immer geraten wird: 2x 3080 sollten reichen... -> "reichen" ist relativ.
Ein vergleichswert: mit 1x 3080 sollte eines meiner submodelle ca. 14-24 stunden trainieren: (bei 2 stück ~ 9-15Std/ bei 3 stück ~ 5-7Std, geschätzt). Ich sehe, dass durch parallelisierung deutlich mehr in der zeit schaffen geschafft werden kann. Sollte ich falsch liegen, bitte korrigiert mich, durch erfahrungswerte die ihr mit mir teilen wollt.

Ideal wäre eine Blower/Wakü 3080 für den anfang. Mein jetziges vorhaben kommt mit 10GB VRAM pro GPU aus. Ding ist, dass ich "vorsorglich" auch irgendwann mal mit CNNs (visuellen KI's) anfangen will, sobald mein jetziges vorhaben realisiert ist (daher 24GB VRAM).
Klar ich könnte schrittweise(!) 3-4 3080s über die nächsten 12-24 monate kaufen. Aber die Visuellen KIs die sich damit trainieren lassen sind eher bescheiden.
Was schätzt ihr wäre ein smartes vorgehen? -> erstmal 2x 3080, dann 2x 3090 (und am ende die 3080s gegen weitere 3090s (oder eine noch bessere) tauschen ) oder gibt es da ein besseres vorgehen?
Bisher noch nie live miterlebt wann die Preise eines modells sinken (wie war das mit der 2080 standard damals der fall?)

 

[Liesel Weppen]

Hört sich gut an^^. Weil meine ersten ergebnisse schon im dezember fertig sein sollten.

Also wenn du im Dezember was haben willst, würde ich mich momentan eher nicht auf eine 30xx versteifen. Selbst wenn die Mitte November kommt, wird dir das ja wohl auch schon zu spät sein.

Eventuell wären ja auch die kommenden AMD-Karten für dich noch interessant.... aber vermutlich auch zu spät für dich.

Ich denke, da musst du dann so oder so erstmal auf "ältere" Grafikkarten setzen, sonst wird das evtl. nix mit Dezember.

 

[Kullberg]

CUDA ist gefragt - da scheidet AMD aus.

 

[Fatal Justice]

@Edmunds
Dir solltest dir auf jeden Fall auch klar darüber sein, wie du kühlen willst. Massiv einsparen lässt sich grundsätzlich bei einer Luftkühlung. Wenn du über 3-4 Karten dachdenkst, dann würde ich die Ampere als FE ad acta legen, da sie als "Hybridkühler" zu viel Platz beansprucht, wenn sie ordnungsgemäß funktionieren soll. Eine einzelne 3080 mit Axialgebläse bekommt man sicherlich gekühlt. Sinnvoller wäre es in meinen Augen, gleich eine Karte zu erwerben, von der du ohne Probleme mehrere einfach dazustecken kannst. Die Gigabyte ist so ein Fall. Also Ausgangsbasis eine Platine wie o. abgebildet mit 4x 16fach Steckplatzanordnung.

Ich würde auf jeden Fall ein paar 120mm Lüffis irgendwie auf die Grafikkarten schnallen, dass da etwas Luft zwischen die Karten geht. Wahrscheinlich Ghetto-Mod.
Wär doch schade wenn die oberste und die mittlere Karte verrecken, weil sie keine Frischluft bekommen.

Das braucht man in der Praxis gar nicht unbedingt. Die Luftführung ist sogar einfacher als bei Axialgebläsen. Es reicht vorne kalte Luft rein und hinten wieder warm raus. Ein Lüfter im Seitenteil habe ich probiert. Bei mir waren die Ergebnisse zu wenig überzeugend, so das sich den Lüfter wieder ausgebaut habe. Bei 2000 Umdrehungen für die Gehäuselüfter mag das noch anders sein. Bei mir steht der Rechner aber nicht im Keller. Das wäre mir zu laut. NVidia hatte mal eigens ein Coolermaster Gehäuse am Markt mit Lufttunnel extra für Grafikkarten, das ist recht effzient von der Sache her.

Die Gigabyte 3090 sieht recht brauchbar aus. Nahe des Gebläse verjüngt sich das Gehäuse, so dass ein Mindestabstand zu anderen Karten erhalten bleibt. Die Abdeckplatte geht auch nicht bis ganz nach hinten, so dass der Platz sogar noch vergrößert wird. Gute Voraussetzungen. Dazu ist eine Art Abdeckung auf der Rückseite vom Lüfter. Mglw. lässt sich diese entfernen, so dass Luft auch beidseitig angesaugt werden kann (ähnlich der GTX480)

Wenn man die Kühlung vorher plant stirbt keine Karte den Hitzetod. 2 Karten sind mir wegen VRAM Fehler kaputt gegangen, eine war davon etliche jahre alt. Da hat es manche Einzelkarte deutlich früher erwischt. Die "Titan Kühler" sind zwar leise geworden für ein Radialgebläse, haben mit Abdeckplatte und zu wenig Platz um das Gebläse mehr Probleme als ältere Versionen GTX260/280, aber auch 480/580.
Diese reagieren in der tat empfindlicher auf Luftmangel. Das wurde bei der 1080(ti) Version wieder entschärft.

Hier gut zu sehen mit den 260ern, die dicht an dicht durch schräg gestellte Gebläse gut Luft bekamen. Liefen 5? Jahre so, habe ich noch heute eingemottet.



Oder bei der GTX480, trotz Abdeckplatten funktioniert die Kühlung... (beide übrigens mit Mod Bios und gesenkter Kernspannung)



Bei den Titankühlern dann problematisch mit Platten... sieht etwas dramatischer aus als es ist



Sollte also auch für den TE passen, wenn es bei Luft bleiben soll