Home Server mit Virtualisierung und NAS

[Waldmeister95]

Moinsens an alle

Ich möchte mir eine HomeServer zusammenbauen der Für Virtualisierung mit datensicherung agieren soll. Und auch als NAS.

Gleich zu anfang ich hab kein Plan was ich an Hardware nehmen soll.
Ursprünglich war ein asrock x79 extreme gedacht, leider macht das Board immer wieder Probleme und geht nur mit 1nem RAM riegel an.

Geplant sind:
2-3 VM’s Für den Farming Simulator
1-VM Für ein MC Server
- Pi hole mit Openvpn VM
-Webserver
-Fileserver
-Nextclound
und eine XP VM für spiele Für die es keine wirkliche emulatoren möglichkeit gibt und unter windoof 10 schon nicht wirklich laufen. und 1
OS: Unraid oder Proxmox

Für den Server Hätte ich:
4 oder 5 512 GB SSDs
5 1TB SSDs
4 3TB WD NAS HDDs
2 8 TB WD NAS HDDs und
2 12 TB HDDs Seagate und WD.

Die Datenträger sind aktuell alle auf einzelne PC’s verteilt und sollen in dem Server zusammengeführt werden.

Mein Plan Wäre die 512er zu einem Raid zusammen zu hängen die 1 TB ter zu einem Raid zusammen zu hängen und die 3TB ter genauso um diese im netzwerk Freizugeben. Dazu wollte ich die zu den 8 und 12 TB ern noch welche dazukaufen um diese als Backup Platten zu verwenden. Für die VM’s habe ich mir 2 NVME’s vorgestellt. Da ich bei dieser anzahl an datenträgern nicht ohnehin komme erweiterungskarten zu verwenden. Da ich mindestens 1 Graka einbauen muss und min 2 erweiterungskarten Für SATA datenträger.
Ich komme auf so ca. 18-24 SATA Datenträger.

Als Gehäuse habe ich mir ein Nanoxia Deep Silence 6 Rev.B Gekauft.

Mein Aktueller Server besteht noch aus einem AMD Phenom II X6 1090T mit einem Gigabyte GA-890XA-UD3 Bei dem Board gehen langsam aber sicher die Kondis kaputt.

Geplant habe ich für den neuen Server so ca. 700-800€ da Gehäuse datenträger und Netzteile schon vorhanden sind, für den ram würde ich denk ich mal 64 GB anpeilen das sollte kein Problem Sein.

 

[Supaman]

Ich komme auf so ca. 18-24 SATA Datenträger.

Geplant habe ich für den neuen Server so ca. 700-800€

Ich sags mal so: bei der Menge an Datenträgern bist du die Kohle schon für einen oder mehrere HBA's los.
Da würde ich als erstes mal durchrechnen, wieviel Speicher wirklich benötigt wird, und dann die ganzen kleinen Datenträger verkaufen, und neue kaufen mit denen Du "am Stück" arbeiten kannst.

Uch das Thema "Dateisystem" ist nicht uninteressant, falls Du einen Stapel Datenträger per Raid-5 zusammen schaltest, und es mal Probleme gibt und Du kein valides Backup hast, sind Deine Daten futsch. Raid-5 Daten Wiederherstellung klappt ungefähr genau so gut wie aus Hackfleisch ein Steak zu bauen...

 

[Waldmeister95]

Okay Sagen wir ich Reduzuere auf ca. 12 Datenträger 2 NVME's 3x4 TB und 2X2 TB Netzwerkspeicher und die 8 und 12 TB Platten weiterhin als Backup

 

[Supaman]

Ich sags mal so: viele Platten benötigen viel Platz, machen viel Lärm und benötigen viele SATA Ports. Dazu kommt, das Du ein großes NT benötigst, was dann in einem System resultiert, das auch im Idle ordentlich Saft zieht. Und da kommt im 24/7 Betrieb am Ende des Jahres ordentlich was zusammen.

Daher ist das erste was man macht, die Menge der Datenträger so gut es geht zu konsolidieren, das macht auch den Systemaufbau einfacher und übersichtlicher.

Normale bzw bezahlbare HBA's haben 8 Ports, plus die Onboard. NVMe gehen direkt aufs Brett, oder per PCIe Adapter.

Bleibt immer noch die Frage, mit welchem Dateimengen, Dateisystem und Backup/Ausfallsicherheitskonzept Du arbeiten willst.

 

[underclocker2k4]

Uch das Thema "Dateisystem" ist nicht uninteressant, falls Du einen Stapel Datenträger per Raid-5 zusammen schaltest, und es mal Probleme gibt und Du kein valides Backup hast, sind Deine Daten futsch. Raid-5 Daten Wiederherstellung klappt ungefähr genau so gut wie aus Hackfleisch ein Steak zu bauen...

Das würde ich so jetzt nicht sagen. Ein RAID5 macht das, was es soll, den Ausfall einer Platte abfedern.

Grundsätzlich hat nen RAID5 (oder jedes andere) erstmal keine Datensicherheit als Ziel. Es soll dafür sorgen, dass der Ausfall einer Platte das Array nicht hops geht.
Mehr aber auch nicht. Da kann immer noch viel schief gehen. Weiteres Problem bei solchen Arraygrößen wird das Rosten der Daten. Sprich, dass die Daten von sich aus korrupt werden, weil ein RAID, wie jedes anderen System auch, mit statistischen Fehler kommt. Sprich also, es ist immer mal irgendwas "kaputt". Mal merkt man das, mal nicht.
Neben vielen anderen Sachen kann ein RAID (5) und Standardfilesystem nicht alles, dessen sollte man sich klar sein.

Weiterhin bin ich beim Rest dabei. Irgendwie alles in den Mixer werfen und einmal kräftig umrühren i,st selten gut.
In ein solches System gehört ne klare Struktur.

Ich würde mir erstmal klarwerden, was denn überhaupt das Ziel ist. Wieviel Platz brauche ich und wofür?
Und dann nochmal drüber nachdenken.
Es würde zum Beispiel Sinn machen, die 4x 3TB HDDs als NAS-Speicher zu machen. (RAID5)
Die 5x 1TB SSDs als VM-Speicher. (RAID5) (ggf. nur 4x je nach SATA-Ports am Controller)

Dann ein 2. System, viel schmaler und ggf. auch kompakter. Dort dann die 8TB und 12TB SSD rein und die mittels RAID1 gespiegelt. Das ist dann das BackupSys und wird nur für Backup und Restore genutzt.

Vorzugsweise macht man das alles als ZFS basiert. Den Controller im Server vorzugsweise in die VM schieben und dort ein NAS-OS aufsetzen. (z.B. TrueNAS)
(NVMe SSDs dann als Boot und MinimalVM-Storage)
Dann hat man ein rebustes System was mit ZFS noch ein paar andere Faxen abfedert.
Das dann vorzugsweise mit ECC-System.
Die VMs können dann über iSCSI nach dem Boot der NAS-VM hochfahren.

Das andere System (Backup) dann viel kleiner und nativ z.B. TrueNAS drauf. Und dann auf die Laufwerke entsprechend Syncen. (z.B. ein ITX-System mit nem kompakten Chenbro 4x 3,5" Gerät, BootSSD nicht vergessen)
Wegen Snapshots braucht man auf dem MainSys und auf den BackupSys erstmal weniger Angst um gelöschte Daten usw. haben.

Auf jeden Fall hat man so 2 unabhängige Datenbestände. Vorzugsweise ist das Backup auch noch örtlich getrennt, falls das geht.

Was man nicht vergessen darf, HDDs altern auch mal. Wenn die 3TB HDDs schon 10 Jahre alt sind, dann sind die schon gut alt und werden dadurch nicht besser.
Daher ein solches System auch auf den Bedarf hin ausrichten und nicht direkt 100TB machen und davon nur 10TB nutzen. Die restlichen 90TB schmeißt man im Zweifel ungebraucht irgendwann wieder weg.

 

[Waldmeister95]

Die datenmengen sind ca. 7 TB Private daten und das was von den Vm's dazukommt. zumal ich immer mal wieder das Problem habe daten zu Horten.
Backup via LuckyBackup und die datenTräger wollte ich dan immer jeweils in ein Raid schalten via zfs

zu dem was underlocker2k4 Schreibt:
Die Backups auf einen externen server auszulagern habe ich auch schon nachgedacht nur ist das zeitnahe noch nicht umsetzbar. außer ich würde beise systeme direckt nebeneinanderstellen.

 

[Pandora]

Bei so "wenigen" Daten würde ich für das Backup einfach zwei externe Gehäuse kaufen und dann wechselnd die 12TB Platten fürs Backup nutzen. Auch weiß ich nicht was du bei "nur" 7TB mit den ganzen Platten willst. Die beiden 8TB HDDs reichen schon, dazu eine dritte um das ganze als RAID5 betreiben zu können und fertig ist die Laube.
Für die VMs genau so, Bedarf für NVMe sehe ich da nicht, also nochmal 3 SSDs zu einem RAID5 und fertig. Je nachdem wie sich dein Datenbestand zusammensetzt könntest du auch alle 5 SSDs nehmen und auf dem Array noch eine Freigabe erstellen. Die Urlaubsfilme kommen dann auf die HDDs, die Bilder auf die SSDs.
Macht unterm Strich max 8 SATA Ports, da braucht es maximal einen HBA und der kostet gebraucht auch nur ein par Euro.

Es soll dafür sorgen, dass der Ausfall einer Platte das Array nicht hops geht.

Naja, gerade im privaten Umfeld ist es aber meist als erste, für weniger wichtige Daten auch als einzige, Backupinstanz konzipiert und sonst bräuchte es auch keine Funktion zum Rebuild wenn sowieso immer das Backup eingespielt werden soll.

 

[Supaman]

Das mit dem Raid-5 bezog sich auf die Datenwiederherstellung wenn es mal Probleme gibt. Bei einem Raid-0/1/10 hat man gute Chancen alles wiederherzustellen, Raid-5 ist oft ohne Chance, weil alles gleichmäßig verteilt ist.

Und das sich das Raid zerlegt geht schneller als man denkt: ein einziger Stromausfall reicht manchmal schon, damit das Raid auf "corrupt" schaltet. Der Normal-User ist dann mit der Reparatur gnadenlos überfordert. Ohne Backup ist dann man dann sehr "befreit" von allen Daten.

 

[underclocker2k4]

Naja, gerade im privaten Umfeld ist es aber meist als erste, für weniger wichtige Daten auch als einzige, Backupinstanz konzipiert und sonst bräuchte es auch keine Funktion zum Rebuild wenn sowieso immer das Backup eingespielt werden soll.

Ein Backup ist eine zweite Datenhalteinstanz.
Ein RAID5 (oder jedes andere) wo die Daten einmalig liegen kann per Definition schon kein Backup sein.

Dass man ein Backuplaufwerk auf Basis eines RAIDs baut, ist nur legitim. Davon ist hier aber nicht die Rede.
Hier sollen alle Datenträger in "einem" konsolidiert werden, das ist dann das Produktivsystem. Ein Backup ist im Ursprung nicht vorhanden.

Ein RAID (wahlweise auch ZFS und Co) erhöht die Datenverfügbarkeit, sprich es sorgt dafür, dass bei einem kleineren Defekt, nicht sofort alles steht und man im Desasterszenario ist. Das Backup ist eine "Kopie" der Daten auf einer zweiten Instanz.
So könnten die Produktivdaten z.B. im Rechner selber sein und das NAS ist dann das Backup. Davon ist, wie gesagt, aber nicht die Rede bisher.

 

[Waldmeister95]

Bei so "wenigen" Daten würde ich für das Backup einfach zwei externe Gehäuse kaufen und dann wechselnd die 12TB Platten fürs Backup nutzen. Auch weiß ich nicht was du bei "nur" 7TB mit den ganzen Platten willst. Die beiden 8TB HDDs reichen schon, dazu eine dritte um das ganze als RAID5 betreiben zu können und fertig ist die Laube.

Ich habe jetzte nocheinmal alles zusammengerechnet es sind gut 15 TB Daten wobei ich davon ausgehe das ich da ca. 2 TB Doppelthabe.

Für die VMs genau so, Bedarf für NVMe sehe ich da nicht, also nochmal 3 SSDs zu einem RAID5 und fertig. Je nachdem wie sich dein Datenbestand zusammensetzt könntest du auch alle 5 SSDs nehmen und auf dem Array noch eine Freigabe erstellen. Die Urlaubsfilme kommen dann auf die HDDs, die Bilder auf die SSDs.

Okay ja Das kling Besser dan könte ich mir wirklich die NVMe's spaaren

Und das sich das Raid zerlegt geht schneller als man denkt: ein einziger Stromausfall reicht manchmal schon, damit das Raid auf "corrupt" schaltet. Der Normal-User ist dann mit der Reparatur gnadenlos überfordert. Ohne Backup ist dann man dann sehr "befreit" von allen Daten.

Okay das ein Stromausfall mir schon alles zerlegen könnte wahr mir bisher noch nicht bekannt! Bei mir gab es Diesesjahr schon 5 Stromausfälle 2 durchbauarbeiten und die anderen 3 du den netzbetreiber.
Da muss ich dan über ein Raid wirklich nochmal genauer Drübernachdenken.

Dass man ein Backuplaufwerk auf Basis eines RAIDs baut, ist nur legitim. Davon ist hier aber nicht die Rede.
Hier sollen alle Datenträger in "einem" konsolidiert werden, das ist dann das Produktivsystem. Ein Backup ist im Ursprung nicht vorhanden.

Als Backup Wahren die Großen Datenträger gedacht. Und das Raid soll dafür sein das ich nicht erst ersazu kaufen und draufwarten muss wenn sagen wir eine der Datenträger Für die VM's oder für die netzwerklaufwerke ausfallen.

So könnten die Produktivdaten z.B. im Rechner selber sein und das NAS ist dann das Backup. Davon ist, wie gesagt, aber nicht die Rede bisher.

So wahr der Plan! nur ja meine ganzen Privatendaten sind dan doch eher nicht Produktivdaten und die würde ich daher gerne gegen datenverfallschützen und da bin ich von ausgegangen das dies mit einem Raid besser möglichwähre. zumindest habe ich das so verstanden.

 

[Supaman]

Okay das ein Stromausfall mir schon alles zerlegen könnte wahr mir bisher noch nicht bekannt! Bei mir gab es Diesesjahr schon 5 Stromausfälle 2 durchbauarbeiten und die anderen 3 du den netzbetreiber. Da muss ich dan über ein Raid wirklich nochmal genauer Drübernachdenken.

Es kommt imer drauf an wie man das aufzieht: wenn man einen HBA mit BBU verwendet, dazu Datenträger mit mit Power-Loss Protection und eine USV verwendent UND ein funktionierendes Backup hat, DANN ist das mit dem Raid-5 auch kein Problem, wenn mal der Strom ausfällt.

Raid-5 war mal sinnvoll, wie es nur kleine Datenträgergrößen gab, um irgendwie halbwegs brauchbare Datenträgergrößen zu erzeugen. Problem an der Sache ist, das die Datenblöcke schön gleichmäßig auf alle Platten verteilt werden. Wenn sich dann der Verbund zerlegt, kann man da eben nicht mit einem Datenrettungstool drüberlaufen und alles wegsichern, da wird es sehr speziell.

So ein Verbund <kann> sehr empfindlich sein - ich bin mal an ein Stromkabel für die Platten gekommen, und das Raid hat sofort auf "corrupted" geschaltet, weil mehr wie eine Platte betroffen waren. Das war dann eine viel Aufwand, das wieder grade zu ziehen.

Bei den heutigen Preisen für Datenträger würde ich nur noch Raid-1 / Raid-10 benutzen. Oder eben ZFS. Plus Backup.

Wie schon erwähnt, einfach einen Stapel Datanträger irgendwie per Raid verschalten, erzeugt zwar einen (temporär) verwendebaren Speichpool, aber es ist nur eine Frage der Zeit bis es dann zu Probleme und / oder Datenverlust kommt. Das ist dann eher ein Konstrukt für Spielernaturen, die gerne Risken eingehen.

Daher: benötigten Speicherplatz ausrechnen, die ganzen Spielzeug Datenträger verkaufen und mit möglichst wenigen Datenträgern das ganze sauber aufziehen.

 

[Waldmeister95]

Ich werde Meinen Plan die woche Nochmals überdenken mit dem neuem Wissen und mich dan denk ich mal gegen Freitag Wiedermelden.

 

[Digi-Quick]

So ein Verbund <kann> sehr empfindlich sein - ich bin mal an ein Stromkabel für die Platten gekommen, und das Raid hat sofort auf "corrupted" geschaltet, weil mehr wie eine Platte betroffen waren. Das war dann eine viel Aufwand, das wieder grade zu ziehen.

Also bei einem ordentlichem Hardwarecontroller wird das Raidvolume "Offline" gesetzt.
Da fährt man das System runter, stellt die Stromversorgung der HDDs wieder her, bootet das System neu und scant ggf. nach "Foreign Confguration" falls die HDDs nicht automatisch wieder eingebunden werden. danach füht man einen "Patrol Read" auf dem Raidvolume durch, um Sicherzustellen daß das Raidvolume konsistent ist.

Sollte der Stromausfall mitten in einem Schreibvorgang passieren, kann das Dateisystem beschädigt sein und im ungünstigsten Fall sogar komplett kaputt sein, das trifft allerdings auf alle Dateisysteme zu, die nicht "Copy On Write" nutzen und ist unabhängig von Raid oder Non-Raid.

 

[Waldmeister95]

Sollte der Stromausfall mitten in einem Schreibvorgang passieren, kann das Dateisystem beschädigt sein und im ungünstigsten Fall sogar komplett kaputt sein, das trifft allerdings auf alle Dateisysteme zu, die nicht "Copy On Write" nutzen und ist unabhängig von Raid oder Non-Raid.

Das ist mir schon öfters bei externen datenträgern Passiert ist nicht wirklich schön wenn die uhrsprungsdaten dann paar Hundert Kilometer auf nem ausgeschaltetem PC Liegen :/

Also bei einem ordentlichem Hardwarecontroller wird das Raidvolume "Offline" gesetzt.
Da fährt man das System runter, stellt die Stromversorgung der HDDs wieder her, bootet das System neu und scant ggf. nach "Foreign Confguration" falls die HDDs nicht automatisch wieder eingebunden werden. danach füht man einen "Patrol Read" auf dem Raidvolume durch, um Sicherzustellen daß das Raidvolume konsistent ist.

Gibt es da bestimte Spezifikationen auf die ich da achten kann die bei dem Hardwarecontroller dabeistehen?


Ansich habe ich mein Plan jetzte etwas überarbeitet. in den Server kommen die 1TB SSD's als Raid5 via ZFS für Die VM's
Die 3 TB HDD's werden Für Das NAS auch in einem Raid mit in den Serverkommen.
Die 512 GB SSD's werden in den Jeweiligen PC's Vebleiben oder ggf neu aufgeteilt
Die 8, 12 TB Hdd's werden in das Backup system eingebaut Für das Backupsystem hab ich zwei Möglichkeiten:

Ein AMD Phenom II 6kerner auf einem ASRock N68-VS3 UCC
oder
Ein Imtel i5-4690 Auf einem ASRock H81M-DG4
Die Boards sind beide Recht klein und haben beide nur je 4 Sata Ports und nur 1 PCI x16 Slot

Meine Nächste Frage währe Was würdet ihr mir Für eine CPU und MB Für den Home Server empfehlen?