IBM x3850 m2 mit KVM langsamer als mit ESXI (und war da schon sehr langsam)

[hattabatatta]

Guten Tag zusammen,

vorerst mal die Konfiguration, um die es sich bei meinem Problem handelt.

Ein IBM x3850 m2 (ja ich weiß er ist alt) mit 2 XEON e7420, 32GB RAM und 2 120GB HDD im RAID1 sowie einer 750GB HDD alleine für die KVM images. (Natürlich gibt es Backups keine Sorge)

Laufen tut drauf CentOS 7 mit KVM und dort laufen weiters 2 Windows 2012 R2 Server Instanzen, sowie 2 Windows 7 Pro Instanzen (wird für Entwicklung benötigt, aber das is ja Nebensache)
Verbunden wird sich mit diversen Linux clients via Remmina und RDP

Vorher lief ESXi 6 mit eben diesen VM´s und schon da war die performance wirklich nicht besonders. Als Vergleich: Dieselbe Win7 Instanz auf meinem Laptop mit OpenSuse Leap42 und KVM läuft um WELTEN (ich weiß is ein dehnbarer Begriff hehe) schneller (der Lappi is ein Dell Vostro 3750 mit I7, 16GB RAM und einer SSD)
Das kann einfach nicht nur an der SSD liegen ... zumindest bin ich mir dahingehend sehr sicher.

Da ich vom ESXi weg wollte habe ich vor kurzem eben alles auf CentOS 7 umgestellt. Die Images habe ich auf qcow2 umgewandelt und sie laufen am KVM als SATA (VirtIO funzt nicht wirklich ... )
Problem is, dass die Performance der virtuellen Maschinen nun nochmal um einiges schlechter ist als vorher.

Eine Win7 Instanz braucht z.B. fast 7 Minuten zum booten ... unter ESXi waren es wenigstens noch runde 3 Minuten. Dieselbe Instanz auf meinem Laptop braucht rund 30 Sekunden.
Ich habe es z.B. auch dahingehend getestet das ich einmal auf dem IBM eine komplett frische Ubuntu Server Installation gemacht habe, und dasselbe Image dann wieder auf meinem Lappi getestet habe.
Auf dem IBM braucht die Instanz über 1 Minute zum booten und handelt sich auch so in der Konsole sehr sehr langsam -> autocomplete z.B.
Dasselbe Image auf meinem Lappi bootet in nicht mal 10 Sekunden.

Ihr seht denke ich schon worauf ich hinaus will.
Habe ich KVM irgendwie falsch konfiguriert? Gibt es noch Tricks, die ich nicht kenne oder ist der IBM einfach so schwerst langsam, was ich angesichts seiner Daten einfach nicht glauben kann?

LG
Hattabatatatta

 

[onlyReaver]

Die Kiste ist einfach langsam. Wenns unter vSphere nicht schnell genug ist, dann liegts eher an der Hardware.

Die Prozessoren gehen ja noch, dafür läuft der Arbeitsspeicher schon höchstens nur noch mit 533 MHz beispielsweise.
Wird aber wahrscheinlich an dem Speicher liegen. Was für Platten sind das?

In dem R805 war interner Speicher ebenfalls unnutzbar, da mussten dann SSDs bzw. iSCSI Speicher ran, dann gings.

 

[hattabatatta]

Hi und danke für deine rasche Antwort.

Ich wollts nicht wahr haben, aber ich denke du hast Recht. Er is einfach schon über seinem Zenit und langsam
Also die Platten die im RAID1 mit dem internen RAID Controller laufen sind wenn ich mich nicht täusche SAS Platten (glaube es sind die hier https://www.harddrivesdirect.com/product_info.php?products_id=461431)

Die 750 GB Platte ist die von meinem DELL (habe dort ja ne SSD reingepflanzt) ... ist ne SATA2 WD mit 7.200 rpm. Sollte denke ich ausreichend sein. Auf der laufen ja die KVM Images.

Jetzt wo wir mittlerweile zu mehreren entwickeln (natürlich nicht in einem Büro sondern jeder von sich zu Hause aus ) wird es eben wirklich spürbar.
Die ständigen Meckerein von wegen "Hey das is aber schon langsam" sind nervig hihi.

 

[Eye-Q]

Also die Platten die im RAID1 mit dem internen RAID Controller laufen sind wenn ich mich nicht täusche SAS Platten (glaube es sind die hier https://www.harddrivesdirect.com/product_info.php?products_id=461431)

Das ist eigentlich Perlen vor die Säue, denn ein Hypervisor braucht so gut wie keine Plattenperformance, wenn der einmal gestartet ist, zumindest ein ESXi läuft dann so gut wie komplett im RAM.

Die 750 GB Platte ist die von meinem DELL (habe dort ja ne SSD reingepflanzt) ... ist ne SATA2 WD mit 7.200 rpm. Sollte denke ich ausreichend sein. Auf der laufen ja die KVM Images.

Das heißt das ist eine 2,5"-HDD? Selbst mit 7200 U/min sind 2,5"-HDDs als Einzelplatten absolut ungeeignet als Datastore für ESXi- oder KVM-VMs.

Auch die E7420 sind inzwischen deutlich überholt (die sind ja inzwischen auch 7 Jahre alt), aber sicher nicht das Hauptproblem bei diesem Server.

 

[hattabatatta]

Ich hab das Ding vor Jahren so erstanden ... nicht selbst zusammengebaut
Möchte das nur zu meiner Verteidigung anbringen weil das so nach "warum baust du so nen Stuss zusammen" klang

Irgendwo möchte ich ihn aber auch nicht so einfach in Rente schicken, weswegen ich hier mal nachfragen wollte, ob noch jemand eine Idee hat am bestehenden Ding noch etwas an Performance rauszuholen (mit vergleichsweise geringem finanziellen Aufwand.

Für das nächste Frühjahr ist dann eh eine komplett neue Kiste aufzubauen ... aber bis dahin wollen wir halt noch halbwegs performant arbeiten können

Würde es eventuell etwas bringen noch eine zweite HDD für den Storage dazuzustecken und die dann ebenfalls in einen Raidverbund zu bappen? Also zur 750GB Platte, die jetzt alleine läuft. Zumindest lesend hat man dann ja im RAID1 laut Theorie einen spürbaren Performancegewinn

Ich habe auch noch einige 3,5" SATA Platten, aber die bringt man da ja nirgends hinein

 

[Eye-Q]

Sehe ich das richtig, dass da nur 2,5"-Festplatten eingebaut werden können? Wenn Du jetzt schon nur eine 2,5" Consumer-HDD eingebaut hast, kannst Du mit einer 2,5" Consumer-SSD (bzw. idealerweise zwei im RAID 1) dem Ding noch ordentlich Beine machen.

 

[hattabatatta]

Ja das siehst du richtig. Der hat, zumindest in der Grundausstattung nur vorne die 4 Einschübe. Angeblich gibts auch intern irgend ne Möglichkeit da noch Platten dazu zu stecken. Ich hab das mal irgendwo beim googlen gefunden. Weiß aber nicht mehr ob das nicht nur beim 3950 geht.

An deinen Tipp hatte ich auch schon gedacht ... die HDD´s gegen SSD´s tauschen ... die machen ja generell mehr Dampf. Meine Befürchtung war dann halt, dass das Geld zum Fenster rauswerfen is weil die Performance sich nicht stark erhöht, weil die Kiste von Grund auf einfach schon für heutige Verhältnisse langsam is.

Aber ich denke das werde ich wohl so machen ... zumal ich die SSD´s ja dann in die neue Kiste mitnehmen kann, wenn die dann spruchreif wird

 

[konfetti]

Hi - jap, selbst auf 3.5" Platten merkt man, wenn mehr als eine VM gleichzeitig booten soll - Das hab ich selber schon bemerkt.
Ich boote von USB-Stick und hab separaten Fileserver der ein NFS-Share zur Verfügung stellt.
Wenn Du noch einen USB-Stick über hast installier doch ESXi darauf, dann könntest die SAS-Platten ja auch für VMs nutzen, das sollte definitiv schneller sein als die 750er.

 

[hattabatatta]

An das habe ich auch schon gedacht ... das geht sich allerdings mit dem Platz nicht aus, da alleine die Windows Instanzen je 100GB belegen und die beiden SAS Platten sind im RAID1 ja nur rund 120GB groß

 

[Chiller3333]

Eine SSD könntest du ja auch in dem neuen System später mal verwenden, wäre also eine längerfristige Investition. Allerdings sind SSDs in der Größe ja auch alles andere als günstig. Du könntest auch versuchen auf eBay oder so an gebrauchte 2.5" SAS Platten mit 10k oder 15k Umdrehungen zu kommen. Die sind in der Regel aber auch recht teuer.

Die günstigste Lösung wäre eine interne 3.5" Desktop Platte, die du irgendwie intern verbauen könntest. Ohne passende Mounts im Gehäuse geht das aber auch nicht.
Alles nicht so einfach...

 

[hattabatatta]

Habe schon 2 512GB SSD´s bestellt. Die werden im RAID1 geschaltet und passt
Geht sich vom Platz her aus und wir haben noch ein wenig Spielraum

Bin gespannt, wie sich das dann auswirken wird. Vom Lappi respektive Desktop kenn ich den Unterschied ja ... frage mich aber, wie es sich auf die alte Kiste auswirken wird

 

[fdsonne]

Ich weis nicht, irgendwie hat das wenig Sinn, sich da noch groß irgendwie Hardware zum Nachstecken zu besorgen... Ich glaube da wärst du besser weggekommen, wenn du irgendwo ausrangierte Server besorgt hättest als diese alte Möre noch weiter aufzubohren. Zum Beispiel irgendwas auf Nehalem/Westmere Basis -> die Dinger sind zwar auch schon um die 5 Jahre, fliegen dafür aber bei vielen Firmen weg, weil durch. Da kann man gut nen Schnapper machen und die Performance ist klar die bessere, von der Effizienz ganz zu schweigen.

Die CPUs sind so ziemlich das "kleinste" Modell dieser Reihe. Es sind, wenn mich nicht alles täuscht, native Hexacores auf Core2 45nm Basis. Deine haben vier Cores davon freigeschalten. Durch den extrem niedrigen Takt mit 2,13GHz ist das Teil nicht wirklich eine Rakete. In Sachen SingleThread Performance (das kommt zumindest zum Teil beim Booten der VMs zum tragen) ist so ein aktueller i7 in deinem Notebook mal locker Faktor 2, je nach Modell auch bis 3x schneller unterwegs. Das liegt einfach in der Natur der Sache. Core2 mit FSB, dazu noch am "alten" S604 ist nicht sonderlich fix in Sachen Systemspeed im Vergleich. Dazu der shared Memory, hängend am Chipsatz anstatt in den CPUs -> ebenso Übertragung über den FSB und nicht zu vergessen die gut schlechtere Performance pro Thread/Core der alten Core2 Technik.

Mit SSDs erreichst du da zwar durchaus brauchbare/angenehme Leistung. Aber mal ehrlich, bootest du die Kisten permanent? Weil mir wäre die Bootdauer relativ egal, wenn die Serverperformance ausreicht... Vor allem muss man bei den SSDs ggf. auch wieder etwas aufpassen, da du sicher keine Enterprise Serverversionen geholt hast -> das könnte ggf. bei hoher Load oder permanenter Last in die Hose sehen... Im Heimbetrieb mag das noch "OK" sein, im Business? Eigentlich ein NoGo...

 

[Steggi]

Beim Virtualisieren sind die Platten recht schnell der Flaschenhals, da denen die I/O Performance ausgeht. Und wenn du dann auch noch mehrere VMs auf einer einzelnen 7200er Consumer Platte fährst, überrascht mich das nicht wirklich, dass da nix brauchbares bei rum kommt...
Mein ähnlich alter X3650 bringt mit ordentlichen Platten bzw. übers externe Storage eine durchaus noch brauchbare HDD Performance. Mit den SSDs solltest du also durchaus einen Unterschied spüren.

Was ich allerdings nicht weiß ist, ob ESXi, falls du wieder dahin wechseln willst, die Platten auch richtig als SSDs erkennt, da ESXi vermutlich nicht durch deinen Controller "durch" schauen kann. Das würde dann dazu führen, dass du vermutlich auf TRIM verzichten musst.

Ansonsten wird aus der Kiste nicht mehr viel rauszuholen sein. Ist halt einfach schon etwas älter...

 

[fdsonne]

Trim im Raidbetrieb ist doch so oder so vom Controller abhängig...
Was du machen kannst -> den Datastore auf SSD umstellen, dafür gibts Befehle auf der CLI. Ob Sinnvoll oder nicht? Keine Ahnung... Ich habs bei mir damals gemacht. Der Controller wird/kann dabei trotzdem kein Trim, wenn ich das recht in Erinnerung habe.

 

[VirtuGuy]

Sofern dich der Stromverbrauch und Lärm nicht stört, kannst du weitere Platten relativ einfach extern nachrüsten. Entsprechende Gehäuse bekommst du sehr günstig bei Ebay. Wenn du intern noch einen Slot am Servraid frei hast, kannst du das Gehäuse einfach mit einem passenden Slotblech anbinden:

SFF-8088 SAS Connectors - Pictures, Cables & Adapters (SFF8088)

 

[hattabatatta]

@fdsonne:
Natürlich hast du recht damit, dass sich da eine große Investition nicht mehr wirklich rentiert. Deswegen habe ich ja die SSD´s bestellt, da ich die dann einfach 1:1 in das neue System (werden wir wohl im März herum dann zusammenschustern) mitnehmen kann.
Dein Einwand von wegen "alte Kiste von Firmen holen" ist natürlich absolut korrekt ... genau so bin ich ja zu dem IBM gekommen. Das Ding hatte ich aus der Firmenauflösung von der Firma, wo ich mal gearbeitet habe, gratis bekommen. Bei mir werkelt er seit mittlerweile 3 Jahren brav vor sich hin. Mittlerweile hat sich halt mein Bedarf ein wenig erhöht, da aus dem "ich entwickle etwas" mittlerweile ein "wir entwickeln etwas" geworden ist ... deswegen auch jetzt der Thread dazu

Es geht ja auch per se nicht um die Bootzeit ... die VM´s laufen sowieso die ganze Zeit durch (außer Windows meckert mal wieder weil es neu starten muss -> "Sie haben die Maus geklickt ... bitte starten Sie Ihren Rechner neu")
Aber man merkts halt auch da sehr stark, dass es ein spürbar langsameres arbeiten ist (bis sich mal Visual Studio öffnet oder so). Deswegen denke ich mir, kann man da mit SSD´s zumindest noch die 2-3 Monate halbwegs vernünftig arbeiten.

Da werden wir dann wohl was auf Haswell Basis bauen ... Skylake ist einfach zu teuer momentan.
Am schönsten wär natürlich gewesen wenn es maybe noch irgendwelche "Tricks" gegeben hätte wie z.B. ein Kernelbootflag oder irgend ein BIOS Setting, das ich übersehen habe um zumindest noch das bestmögliche an Performance rauszuholen.

Wenn der IBM dann endgültig ersetzt wird, kommt er eh weg. Maybe verschenk ich ihn sogar

@Steggi:
Nein es wird wohl nicht mehr der ESXi werden ... ich fühle mich mit CentOS einfach wohler.

 

[fdsonne]

Wie gesagt, die "alten" Nehalem/Westmere Xeons fliegen reihenweise bei den Firmen weg. Wenn du da Kontakte hast, dann kann man sich dort schon gut "eindecken". Ich hab hier bspw. zwei von den Blechen bei uns von Arbeit stehen. Für Umme natürlich... Bisschen RAM rein gedrückt (im Vollausbau mit 8GB Riegeln gehen da 144GB rein pro Host), den beiden Hexacores und nem halbwegs brauchbaren Raidcontroller respektive irgendwas anderes, was dir Storage unter der Virtualisierungslösung bereitstellen kann und du hast die nächsten Jahre Luft. Vor allem für solche Basisgeschichten. Ich nutze die Teile bei mir allerdings fürs Rendering. Zwei der Xeons zusammen sind immernoch schneller als ein 4,2GHz i7 Oktacore auf Haswell-E Basis.

Warscheinlich sind die Westmere Hexacores noch in 4-5 Jahren über jeden normalen Zweifel erhaben. Sprich du wirst mit normaler Software da auch bei neueren Modellen nur im Vergleich unwesentlich mehr Performance rausholen. Die Energieeffizienz ist OK für die Dinger und der Preis sowieso.
Selbst wenn du niemanden kennst, der sowas raushaut, du bekommst das paar CPUs bei Ebay und Co. für 150-200€. Bisschen RAM rein und ein Board besorgt -> und los gehts. Ggf. lässt sich sogar die alte IBM Kiste umrüsten auf ein neues Boad + CPUs + RAM.
Oder ne HP Z600 Workstation besorgt bei Ebay als Basisblech mit NT und Board sowie Gehäuse (geht auch in 19" montierbar mit den passenden Schienen) -> zwei günstige CPUs geschossen und den RAM dazu. Fertig...

Ob dich die SSDs so extrem viel weiter bringen, würde ich ehrlich gesagt bezweifeln. Denn mit den SSDs läufst du sehr sehr schnell ins CPU Limit. Wenn eim Vergleich ein konkretes Problem bei dir auf dem Notebook dank neuerer CPU Technik und Turboboost da Faktor 2-3 auf der Uhr stehen, werden schnell aus 5sec Warten gleich mal 10-15sec. Das merkt man schon extrem. Vor allem ist es idR so, dass du nicht so krass direkt den Schwenk auf etwas schnelleres merkst (das kommt erst mit der Zeit der Nutzung und pegelt sich so langsam in das subjektive Empfinden ein). Du merkst aber richtig krass, wenn du dann einfach wieder zurück gehst. Sprich von was schnellem auf was langsameres... Ich denke jeder kennt das, vor den SSDs gingen PCs auch zu nutzen. Heute will "Keiner" mehr ohne. Nicht weil der Speed zur SSD hin so hoch war, sondern weil es ohne einfach extrem viel langsamer geht. Was man erst dann richtig merkt, wenn man sich mal zwingt, zurück zu wechseln. (oder dazu gezwungen wird)

 

[pumuckel]

Trim im Raidbetrieb ist doch so oder so vom Controller abhängig...
Was du machen kannst -> den Datastore auf SSD umstellen, dafür gibts Befehle auf der CLI. Ob Sinnvoll oder nicht? Keine Ahnung... Ich habs bei mir damals gemacht. Der Controller wird/kann dabei trotzdem kein Trim, wenn ich das recht in Erinnerung habe.

setzt von Euch noch jemand HW Raid ein (also nicht low level für ESXi im consumer mit nem 4 Port für die üblichen 2 Sata im Raid 1) ?

 

[fdsonne]

ÄHm, wenn du mir noch genau sagst, was für dich (nach dem Satz in der Klammer?) ein HW Raid ist, dann würde ich bald sagen, ja -> ich hab hier mehrere idR. Fujitsu gelabelte LSI Hardware Raidcontroller, teils mit BBU, teils ohne, idR aber alle mit Cache und dediziertem Prozessor, am laufen -> auch mache gepaart mit SSDs.

 

[konfetti]

P400 - ebenso teils mit BBU/teils ohne - alle auf 512MB Cache. - 2 Hosts machen RAID5, einer RAID 10
ansonsten USB-Stick zum booten und SAN/NFS vom Filer mit FreeNAS und ZFS RAIDZ2 (leider noch ohne SSDs... - die Regierung bewilligt das Budget noch nicht)