[Showthread] [Bilderthread] Cisco UCS C460 M4

java4ever

Experte
Thread Starter
Mitglied seit
12.01.2018
Beiträge
934
Ort
Darmstadt
Moin die Herren!

Die Server von Dell und HP dürften wohl jedem, der in diesem Unterforum unterwegs ist, ein Begriff sein. Von IBM / Lenovo und Supermicro hört man auch noch ab und an.
Von einem Hersteller hört man allerdings so recht wenig: Cisco!

Ich habe vor nicht allzu langer zeit einen Cisco UCS C460 M4 Server erworben, zu dem es im Internet auch nicht so sehr viele Informationen, die nicht von Cisco stammen, zu finden gibt.
Deshalb: Showthread!

Ich habe den Server auf ebay gekauft. Bestückt war er mit 4x Intel Xeon E7-4880 v2, 256GB DDR3-1600 auf 8 Memory Boards (laufen auf 1333MHz), einem PCIe Riser (der wiederum mit zwei Cisco NICs bestückt ist) und 12 Fillern für die SFF Slots.

Ich lasse die Bilder für sich sprechen... Mehr oder weniger.


20200201_050308.jpg

Unten ist der Cisco Server mit seinen 4 Lüftermodulen zu sehen (Oben ein IBM X3850 X5, den ich von @Tom3 hier aus dem Forum gekauft habe).
Jedes Lüftermodul hat übrigens 50W(!), dreht maximal mit 10500RPM und macht dabei >100dB (kalibriert gemessen, Sone werden demnächst nochmal gemessen).
20200123_231541.jpg

Hier schön zu sehen: Die 4 redundanten 1400W Netzteile, sowie die 2 Dual SFP+ Cisco NICs

20200117_115745.jpg

So sah die Kiste ursprünglich aus, als sie angeliefert wurde.

20200117_125319.jpg

...SFF Slots. 5 + 9 unterstützen auch U.2 SSDs, sagten sie...


20200201_050302.jpg


Ich hatte zusätzlich, ebenfalls von @Tom3 noch 27* 32GB DDR3-1866 LRDIMM erworben, die ich dann auch eingebaut habe.

Kommen wir zu den Memory Risern und dem Speicherausbau:
20200117_120416.jpg


Ja, der Speicher ist hot-pluggable, sofern das OS das unterstützt (und die Treiber installiert sind).
Im Fehlerfall teilt einem der Riser auch mit, welches DIMM hops gegangen ist.

20200310_150623.jpg

Memory Riser vor dem RAM ausbau.
Das ist ein ziemlich massives Teil (ist auch ordentlich schwer!) vollflächiger Alu "Backplate". Schön finde ich ebenfalls die Amphenol Verbinder...

20200310_151119.jpg


Ein Mal mit dem neuen RAM bestückt.
8 Riser á 4 Riegel á 32GB => 1024GB!

Die Technologie der Riser stammt übrigens von Intel und wird / wurde von mehreren Herstellern genutzt (IBM, Fujitsu, etc)



Kleines Intermezzo: Leistungsaufnahme.
20200304_115848.jpg


...Benchmark Betrieb, alle 4 Netzteile am Laufen, Grid redundancy. Hängt noch eine 150W Threadripper WS mit dran, zugegebenermaßen. Also 850W.

Noch ein kurzes Intermezzo:
Habe direkt Ersatz CPUs mitgeordert.
20200115_160427.jpg




...to be continued.
Beitrag automatisch zusammengeführt:

20200115_160445.jpg


20200115_160720.jpg


...und jetzt bitte nicht wegen der Antistatikfolie meckern. Ich selbst war geerdet und wollte nur fix Bilder machen.

Weiter geht es mit dem PCIe Riser.
20200303_194913.jpg


"Original"
Hier sieht man schön die Halter zum Abstützen sowie die 2 Stromanschlüsse.
20200304_192015.jpg


Sieht im Detail so aus. Schön auch das dicke PCB.
Die Stromkabel von Cisco sind nicht zu kriegen. Da der Kram wie die Dell Server bei Foxconn vom Band fällt und Dell exakt die selben Anschlüsse auf ihren PCIe Risern hat, habe ich einfach mal Dell PCIe Riser Power Cable beim freundlichen Chinesen geordert und hoffe, dass das funktioniert.

20200310_153945.jpg


Eine der NICs. Schön zu sehen der (mutmaßlich) Extra Management Connector für Original Cisco Hardware, damit man die selbst konfigurieren kann, wenn der Server aus ist und man nur via IMC auf ihn zugreift!
Beitrag automatisch zusammengeführt:

Weiter geht's mit dem letzten Upgrade: Ein Intel Xeon Phi ist eingezogen.

Ob er funktionieren wird: Fraglich. Das Mainboard *sollte* es können, "Above 4G decoding" ist im BIOS als Option auf jeden Fall vorhanden.

Für etwa 230€ (ohne EuSt) gab es aus Japan einen Nagelneuen Xeon Phi 7120P.

20200310_152538.jpg

20200310_152555.jpg


20200310_152717.jpg


Durch den wirklich massiven Luftdurchsatz des Server sollte die Karte ausreichend gekühlt werden...

Der PCIe Riser sieht jetzt so aus:

20200310_154139.jpg


20200310_154327.jpg


20200310_154331.jpg


Und einmal Gesamtaufnahme vom Server mit neuem RAM:
20200310_154524.jpg



Das war es soweit an Bildern.


Kurz auf die Frage, warum ich das Ding angeschafft habe:
Zum Einen kann man mit 1TB RAM sehr spannende Dinge anstellen.
Zudem entwickle ich Simulationssoftware für Firmen, die ggf. auch solche Quad Socket Server nutzen -> Testplatform.
Dient außerdem als Compile- und Testsklave.
Mit dem Xeon Phi habe ich im Rahmen des GPGPU auch ein paar Experimente vor, habe ein paar Ideen, wozu der Phi sich nochmal besser als CPUs oder GPUs eignen könnte.


Falls Fragen aufkommen: Nur zu!
 
Zuletzt bearbeitet:
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Maechtiges Geraet, Der Stromversorger freut sich sicher :d
 
Interessante Maschine.
Macht es noch Sinn, Entwicklungszeit auf Basis einer Phi zu investieren. Da Intel das Ding beerdigt hat.
 
Ist auf jeden Fall eine interessante Experimentierplatform.
Wenn er sich für die Dinge, für die ich ihn vorgesehen haben, so gut eignet, wie ich es hoffe, macht es ggf. sogar Sinn, davon noch ein Rudel anzuschaffen.
Werde ich dann auch gegen EPYC benchmarken, aber wie erwähnt, wenn meine das obige zutrifft, sollte er sogar EPYC übertrumpfen (für diese speziellen Anwendungen).
 
Sei vorsichtig, nicht das dein Rack nachher abhebt von den Turbinen :d
Nettes "Projekt" und Spielwiese, ich seh es aber wie @tonythebuilder , was nützt es dir auf Xeon Phi zu entwickeln, wenn das Teil wohl bald in den EoS geht und deine Kunden sich diese Hardware nicht mehr beschaffen können ? Macht das dann nicht mehr Sinn mit OpenCL oder CUDA ?
Beitrag automatisch zusammengeführt:

Beim Wattometer fehlt auf der Anzeige ein Komma. :fresse:
Zur Erhöhung des WAF kann man das ja mit Edding drauf malen :ROFLMAO:
 
Macht das dann nicht mehr Sinn mit OpenCL oder CUDA ?

Der Rest der Software spricht OpenCL / HIP (+ CPU backend), aber mit dem Xeon Phi kann man eben gewisse Aufgaben noch mehr beschleunigen, als es mit GPUs der Fall wäre. Und kaufen kann man die Dinger, wenn man möchte... Sogar relativ günstig.
 
Naja CUDA ist schon sehr selten im Simulationsbereich.
Die Grundidee der Phi ist an sich sehr gut. Nur ist es bekannt das die Integration, eben jener, durch aus problematisch sein kann/soll (AVX512).
Und ja man kann die Dinger recht günstig Erwerben. Habe selbst auch schon drüber nach gedacht (Supermicro SYS-5038K-I-ES1).
Aber das die Phi EoS/EoL ist. Wird schon dafür sorgen, dass sie noch billiger, da sie bei Firmen/Unis aussortieren, wird.
Und da ist halt die Frage, wie auch sch4kal angemerkt hat, macht das Überhaupt noch Sinn dafür zu entwickeln.
Wir wollen es dir aber nicht Maddig machen. ;)
 
Sooo.

Habe heute nochmal Lautstärke gemessen. Keine Ahnung wie ich beim ersten Anlauf auf die 100dB gekommen bin, ich vermute, dass ich den Kalibrator auf den falschen Pegel eingestellt hatte (94dB vs 110dB)

Ruhepegel:
1584961938529.png


Ein Netzteil angeschlossen:
1584961953769.png


Zwei Netzteile angeschlossen:
1584961968226.png


Drei Netzteile angeschlossen:
1584961983583.png


Alle vier angeschlossen:
1584961995432.png


Server an (beim Booten):
1584962014960.png



Gemessen mit kalibriertem Earthworks M30 in einem Meter Abstand.
 
Entschuldigt bitte das Thread-Leichenfleddern hier. @java4ever hast du jemals die Lautstärke in den Griff gekriegt und noch viel wichtiger - hast du mal probiert die e7 v4 CPUs da reinzuschmeißen? Sollte eigentlich ein Drop-in Replacement zu den v2/v3 sein und die CPUs haben nen DDR3 Speichercontroller dabei. Bei den HP DL580 G9 z.B. geht nachweislich diese Kombi aus v4 CPU + DDR3 Memory.
 
Leise wird die Kiste nie so wirklich.

v4 CPUs hab ich nicht probiert. Im Supermicro 8048B-TRFT (X10QBI) geht das problemlos. Die Kiste ist auch erträglicher was Lautstärke angeht.
 
Mh I see, danke für die fixe Antwort. Die Supermicro Version ist halt leider wesentlich teurer und die Cisco wird als qualitativ beste beschrieben. Bei der DELL muss man je nach SPI board dann noch sachen Flashen - da habe ich etwas Bammel vor. Hast du deinen Brüllwürfel eigentlich noch? Was war deine Erfahrung damit? Ich würde mir sowas gönnen für's testen von Single Node Cluster Applikationen, die so um die 120+ vcores brauchen.
 
Hast du deinen Brüllwürfel eigentlich noch?
Nope, hier im Forum verkauft.


Was war deine Erfahrung damit?
Geile Kiste, aber im Grunde nur für eine sehr spezielle Anwendung: Wenn du 3TB RAM brauchst und begrenztes Budget hast.

(oder wenn du aus unerfindlichen Gründen memory hot swap willst und Lust hast das mit nem uralten ESXi zum Laufen zu kriegen)

Wenn es nur > 120 Threads sein sollen:
2x EPYC 32C. Damit wirst du imho glücklicher.
 
Da kann ich aktuell auch etwas beitragen, da ich gerade eine solche Cisco C460 M4 mit 4 Stück E7-8880 v4 hier habe: 176 Threads.

Mit den 8 Stück DDR4-ECC-Reg-Riserkarten mit je 12 RAM-Slots passen 96 RAM-Riegel hinein.

Leider hatte ich kein Auktionsglück: 85 Stk. 64 GB (!)-DDR4-ECC-Reg.-Riegel sind neulich für nur 1111€ weg gegangen. Das hätte nahezu ideal gepasst. Wären dann 5 TB RAM gewesen.

Zusätzlich habe ich eine RAM-Riserkarte für DDR3 gekauft. Läuft auch, ist aber wählerisch bzgl. Rank. Meine 12 Stück 32GB-PC3L-14900 (Quad-Ranked) laufen nicht zusammen in einem Riser.

Cisco_2.png


Cisco_3.png


Bei Kaufinteresse bitte melden. ;o)

MfG
Tom.
 
Den IBM hattest Du damals von mir gekauft.

Den Cisco habe ich erst seit einer Woche.
 
Leider hatte ich kein Auktionsglück: 85 Stk. 64 GB (!)-DDR4-ECC-Reg.-Riegel sind neulich für nur 1111€ weg gegangen. Das hätte nahezu ideal gepasst. Wären dann 5 TB RAM gewesen.

Zusätzlich habe ich eine RAM-Riserkarte für DDR3 gekauft. Läuft auch, ist aber wählerisch bzgl. Rank. Meine 12 Stück 32GB-PC3L-14900 (Quad-Ranked) laufen nicht zusammen in einem Riser.
Na da finden sich die Verrückten ja wieder :d
85x 64GB DDR4 um den Preis wäre echt ein Schnapper. Und ich dachte 50x 16GB DDR3 für ~230€ wäre schon gut.
Laufen die 12 Stück gar nicht oder nur wenn du die Hälfte reintust? Kann man da der DDR3 unterstützung der v2 CPUs folgen oder ist das nix?

2x EPYC 32C. Damit wirst du imho glücklicher.

Den Cisco habe ich erst seit einer Woche.

Also an dich ist der gegangen um 1 € mehr good to know ;)

Afaik sind die 1 gen also z.b. Epyc 7501 in etwa in der gleichen Liga wie die 8890 v4. Muss dann DDR4 dafür kann man halt den Formfaktor besser wählen. Grundsätzlich komm ich dabei ca auf die doppelten Kosten.
Aber Naples war glaube ich auch overvlockbar, oder? Zumindest die ES/QS Chips.

Also am Ende würde ich mir einfach gerne 8 VMs a 16-32 vcores und 64-128GB RAM hinstellen. Eher am oberen Ende der Skala aber ist kein absoluter Zwang.
 
> Laufen die 12 Stück gar nicht oder nur wenn du die Hälfte reintust?

Mittlweile glaube ich, dass ein Slot meiner DDR3-Riser-Karte einen Schaden hat und deshalb nicht alle 12 Riegel laufen (Gegenversuch mit 12 Stück 8GB-DDR3-PC3R jeweils Dual-Rank --> an den Ranks liegt es definitiv nicht).
Wenn ich nur 6 Stück von den 32GB-PC3L rein tue, werden die problemlos erkannt.

Ggfs. finde ich am WE Zeit und Ersatz und kann mit anderem DDR3-Riser testen.

> 8 VMs a 16-32 vcores und 64-128GB RAM
Falls Du Interesse hast, kann ich Dir da was passendes anbieten, per PN.

EDIT_2023-08-05: Es lag tatsächlich am DDR3-Riser: Andere RAM-Riser-Karte rein und alle 12 Stück 32GB-PC3L laufen zusammen problemlos. In den zweiten Riser habe ich noch weitere 4 Stück 32GB-PC3L rein getan. Also 16*32GB=512GB (siehe Screenshot anbei).

Die restlichen 80 RAM-Slots sind noch frei, bis jetzt.
 

Anhänge

  • CISCO UCS C460 M4#2 - 4xE7-4830v2_512GB-DDR3_16x32GB_1.png
    CISCO UCS C460 M4#2 - 4xE7-4830v2_512GB-DDR3_16x32GB_1.png
    17,6 KB · Aufrufe: 49
Zuletzt bearbeitet:
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh