Zusammenführung von NAS und Server

[Nieter]

Moin zusammen,

ich habe mal eine Frage da ich momentan mehrere dezentrale Systeme betreibe und überlege, dies zu "zentralisieren" und per ESXi abzubilden.
Ich betreibe momentan das folgende Setup:

1.) HP Microserver Gen8 mit 16GB RAM und einem Intel Xeon E3 1240@3.30Ghz 4 Cores / 8 Threads 2x 3TB und 2x 4TB, DSM
Auf dem DSM-System laufen aktuell drei virtuelle Maschinen und 4 Docker-Container.
Zu den VMs: FHEM, openWB jeweils unter Rasbian Buster
Zu den Docker-Containern: ioBroker, teamspeak, Omada Cloud Controller (TP-Link AccessPoint Controller) und Pihole

2.) Dell Optiplex 7040 mit i5 6500, 4TBB HDD
Auf dem System rennt Windows 10 mit BlueIris als Überwachungssystem, daran hängen aktuell drei Kameras, Aufbau auf 6 Kameras geplant.

3.) DS Synology 211j als Backup von 1.) und indirekt 2.) da das System unter 2.) auf das 1.) System sichert.

Soweit zum heutigen Szenario.

Ich bin nun am Überlegen, ob ich die Systeme 1. und 2.) bei mir im Netzwerkschrank (19" ca. 50cm hoch) zusammenführen, sodass ich die Anzahl der Systeme reduziere.
Ziel wäre es, das ganze per ESXi zu virtualisieren und die VM's aus dem DSM direkt in ESXi als VM zu betreiben (vermutlich sinnvoller, als das DSM als "Zwischenschicht" zu haben).

Ebenfalls könnte ich das ganze dann sauber per USV absichern und habe alles im Netzwerkschrank.
Aktuell steht das System unter 2.) und 3.) auf dem Dachboden: Da sind es gerade -5°C und im Sommer +40°C - also absolut nicht optimal.

Nun benötigt BlueIris recht viel "CPU-Kapazität" und ich bin mir nicht sicher ein "Surveillance-System" auf dem gleichen Host laufen zu lassen wie ein "NAS-System".
Zudem kann ich nach meinem Wissen per ESXi in der kostenlosen Version nur zwei logische CPU Kerne zuweisen, ich würde also von dem Xeon mit 4C / 8T nicht wirklich profitieren.

Hat jemand dazu ein paar Ideen oder Tipps?

Danke,
Nieter

 

[fard dwalling]

Also zu ESXi und Kernen kann ich dir nur sagen, geht auch mehr. Ich habe auch 4 Kerne einer VM zu gewiesen.

Surveillance und NAS, naja die Synology kann schon aber gut richtig viele Kameras verwalten. Ich kenn BlueIris da jetzt nicht. Hängt vielleicht aber auch von Kameradatenstrom und Bewegungserkennung und so ab.

Wenn ich das richtig verstehe, willst du aber alles auf dem Gen8 dann zusammenführen? Oder willst du in was neues investieren?

 

[Nieter]

Moin,

danke erstmal. Naja die Synology Surveillance Station ist im vergleich zu BlueIris eher „Spielkram“.

Ich bin auch gerne bereit in was neues zu investieren, sollte nur z.B. Funktionen wie iLO mitbringen (natürlich auch von einem alternativen Hersteller)

 

[fard dwalling]

Wenn du der Win10 VM genügend RAM und CPUs zuweist, sollte das kein Problem sein. Würde auch eine separate NIC der VM zuweisen. Ob der Gen8 reicht, kannste ja testweise Mal laufen lassen.
Du kannst den vorhanden Win10 ja mal virtualisieren und dann einfach testen. Erstmal mit 4 oder 6 Kernen.

 

[gea]

16 GB RAM wird das Hauptproblem sein. ESXi selber würde ich mit 2 GB RAM rechnen. Dazu ein Linux für die Docker, würde ich mit 4-6 GB rechnen. Dazu eine Windows 10-64bit VM mit auch min 4-6GB. Macht 10GB minimum, eher mehr.

Wenn man ein NAS virtualisieren möchte, ist ZFS der Königsweg. Ein 64bit ZFS OS braucht 2-4 GB RAM. Damit da aber Performance herauskommt eher 4-8 GB minimum (Ein minimalistischer Solaris Fork mit in ZFS integriertem SMB wie OmniOS, https://omniosce.org/) oder 8-16 GB bei einem System wie FreeNAS.

 

[VirtuGuy]

Moin,

danke erstmal. Naja die Synology Surveillance Station ist im vergleich zu BlueIris eher „Spielkram“.

Da muss ich schon ein wenig widersprechen. Die Surveillance Station kann bei passender HW hunderte Kameras verwalten. Blue Iris kann pro Instanz nur 64 Kameras verwalten und mangels API oder Bulk Features ist dies alles mit Handarbeit verbunden. Surveillance Station braucht speziell bei größeren Setups keinesfalls den Vergleich scheuen. Für kleinere Setups würde ich aber ebenfalls BlueIris bevorzugen, schlicht und einfach wegen der LIzenzkosten.

Sofern du halbwegs aktuelle Kameras verwendest, musst du dir bei deiner aktuellen HW eigentlich keine Gedanken bezüglich CPU machen. WIchtig ist im Grunde nur das du bei allen Kameras die Substreams für die Bewegungserkennung verwendest. Ich betreibe ein vergleichbares Setup mit 10 Kameras (5-8Mpixel), selbst mein Backup Node (E3-1226) langweilt sich mit ~25% CPU Auslastung.

 

[ergoline23]

Servus,

wie sieht es mit motion aus? Läuft bei mir auf debian8 64bit unter esxi6.7 problemlos. Hier laufen aber auch nur 4 Cam´s gleichzeitig

 

[Nieter]

Sofern du halbwegs aktuelle Kameras verwendest, musst du dir bei deiner aktuellen HW eigentlich keine Gedanken bezüglich CPU machen. WIchtig ist im Grunde nur das du bei allen Kameras die Substreams für die Bewegungserkennung verwendest. Ich betreibe ein vergleichbares Setup mit 10 Kameras (5-8Mpixel), selbst mein Backup Node (E3-1226) langweilt sich mit ~25% CPU Auslastung.

Hi,

Danke dir erstmal. Also ich finde z.B. bei BlueIris die Konfiguration und die Steuerung super einfach, zudem bekomme ich bei Bewegungserkennung direkt die Bilder auf meine Apple-Watch. Das hat mit der Synology leider nicht gut funktioniert, zudem zickte die Software mit meinen Reolink-Kameras etwas "rum".

Das Thema mit den Substreams muss ich mir noch einmal ansehen.
Wenn meine Kameras eine Bewegung erkennen, dann steigt die CPU-Last auf knapp 100% bei dem i5-6500 - vermutlich liegt es an den Substreams?

Es wäre natürlich optimal den HP Microserver Gen 8 ggf. mit neuen Platten auszurüsten (darin werkeln noch WD Green, seit ca. 5 Jahren ohne Probleme) und dann darauf ein ESXi-Host aufzubauen.

Den Dell würde ich dann mit den WD-Greens ausstatten und als "üppiges Backup" betreiben wollen.
Die DS211j ist mittlerweile tatsächlich sehr alt, arbeitet aber wie ein Uhrwerk.
Meine Eltern könnten sowas auch noch gebrauchen ;-)

@gea
Meinst du wirklich das 16GB nicht reichen?
Die Windows VM läuft immer nur mal sehr selten, die könnte ich ggf. auch auf meinen PC auslagern, da arbeite ich mit 32GB RAM.
Aktuell sind bei 4 Docker-Containern (Teamspeak, ioBroker, Omada Cloud Controller und pihole) und 2 VMs (FHEM und openWB) von 16GB insgesamt 30% / 4,8GB in Nutzung auf dem HP Microserver Gen 8.

Mein BlueIris Server liegt im Schnitt auch bei Aufnahmen von mehreren Kameras bei ca. 4,8 - 5GB.

In Summe sind also ca. 10GB in Nutzung, bleiben 6GB - 2GB für ESXi = 4GB für weitere Anwendungen offen.
Ggf. wären im HP Microserver auch 32 GB RAM in Summe möglich.

Ergänzend muss ich natürlich sagen, dass FHEM und openWB natürlich auch im Docker laufen könnten - das habe ich aber noch nicht gelöst bekommen.

es wäre natürlich echt super das alles zentral auf einem System zu betreiben, insbesondere was Backups und Co. angeht.

Schönen Abend noch,
Moritz

 

[gea]

In Summe sind also ca. 10GB in Nutzung, bleiben 6GB - 2GB für ESXi = 4GB für weitere Anwendungen offen.

Wenn als weitere VM ein ZFS Storageserver geplant ist, so ist das knapp. Mit OmniOS gerade ausreichend damit ein Filer ausreichend schnell ist.

 

[fard dwalling]

Mh, wie war das denn? Der Gen8 konnte doch nur max 16GB oder? Das wäre dann eine Sackgasse zwecks Aufrüsten. Aber vielleicht kannst du den auch für etwas Geld verkaufen und Holst dir einen Gen10 plus? Hab jetzt von Jacob einen mit Xeon und 16GB DDR4 für knapp über 400€ netto angeboten bekommen.

 

[Nieter]

Wenn als weitere VM ein ZFS Storageserver geplant ist, so ist das knapp.

Moin,

nein ist es nicht, ich musste erstmal suchen was ZFS ist ;-)
Aktuell laufen ja permanent zwei unterschiedliche Systeme nämlich das NAS und der BlueIris Server.
Das generiert doppelten Stromverbrauch und entspricht auch nicht dem Gedankengang "ein zentrales System".

Es wäre daher natürlich ideal alles auf dem NAS / Microserver Gen 8 einmal zu sichern und dann zu plätten und auf der Maschine den ESXi Host aufzubauen.
Ich habe mal im Nachbarthread nachgefragt ob mehr als 16GB beim Microserver funktionieren.

 

[gea]

ZFS ist das ultimative Dateisystem wenn es um Datensicherheit geht. Dafür sorgen in erster Linie Copy on Write. Dabei werden auch zu ändernde Datenblöcke immer neu geschrieben, nie einfach geändert. Stürzt der Rechner beim Schreiben ab, bleibt damit einfach der alte Stand valide. Ältere Dateisysteme haben da gerne ein korruptes Dateisystem. Setzt man einen Snap, bleibt der alte Datenstand einfach erhalten und man hat readonly Versionierung ohne Zeitverzug (z.B. als Windows vorherige Version, schützt auch vor Verschlüssellungstrojanern). Mit Copy on Write werden auch Raid Arrays möglich bei denen es beim Absturz kein defektes Raid gibt (kein Write Hole Problem, http://www.raid-recovery-guide.com/raid5-write-hole.aspx). Bei ZFS heisst das dann zur Unterscheidung Z1 statt Raid 5 oder Z2 statt Raid 6.

Zusätzlich werden alle Daten und Metadaten beim Schreiben mit Prüfsummen versehen. ZFS kann damit jede Veränderung erkennen (silent error, Datenrost, Kabelprobleme, einfach alles) und automatisch reparieren wenn Redundanz da. Lediglich Ramfehler aufgrund fehlendem ecc können neben eine Amok Hardware per Design noch Datenfehler als Folge haben.

ZFS gibt es seit 2005 in Original von Oracle in Solaris. Da Sun OpenSolaris als OpenSource freigegeben hatte gibt es ZFS auch im freien Solaris wie OmniOS, und seit ein paar Jahren in Free-BSD und in Linux, in Windows jetzt als Beta. Unter Solaris ist es sogar mehr als ein reines Dateisystem da hier Dienste wie SMB und NFS in ZFS integriert sind (kernelbasierter SMB Server) und auch iSCSI Teil des Betriebssystems ist.

Mit OmniOS stelle ich ein frei herunterladbares Template inkl. Web-UI für ESXi bereit. Damit hat man einen lauffähiges ZFS Filesyserver unter ESXi in 5 Minuten am Laufen, https://napp-it.org/doc/downloads/napp-in-one.pdf

ps
Meines Wissens ist 16GB Maximalausbau beim G8 weil er keine 16GB Module kann (max 2 x 8), auch wenn der Chipsatz 32GB könnte. Auch ist ein virtualisierter Storageserver etwas aufwendiger beim G8. Ideal sind Systeme wo man zwei Festplattencontroller hat, z.B. M.2 für ESXi und Sata für Storage oder Sata für ESXi und ein HBA für Storage. Letzteres wäre beim G8 nachrüstbar.

Von USB Sticks als Bootlaufwerl für ein vollwertiges OS halte ich wenig, eventuell wäre ein USB Laufwerk mit einer Sata SSD ab 60GB eine Option. Macht aber auch machmal Zicken.