Aufrüstung Homelab besonders wegen Backupperformance

[scimob]

Ich brauche mal ein paar Ideen von euch:
Aktuelle Konfig:
VMWare Host mit ESXi Free 6.7U3: Xeon E31225V5 auf Supermicro X11SSL-F, 16Gb Ram, 500Gb Samsung SSD + 8Tb WD Red am Sata.
Darauf laufen 4 VMs, 3 Linuxe und ein Windows Server 2019 Standard auf dem Logitech Media Server, Subsonic und meine Dateifreigaben laufen.
Die Linuxe sind zu vernachlässigen, keine 60Gb.
Der Windows Server benötigt knapp 5Tb. Grund: Hier liegt meine Musik und Filmsammlung drauf, und meine Fotos.
Die VM des Windows Servers hat 2 VHDs, eine liegt auf der oben genannten SSD, die VHD mit den Daten auf der mech. Platte.
Auf der SSD laufen auch die DBs vom LMS und von Subsonic, da flitzt das wunderbar.
Das läuft alles soweit tadellos. Nur mit dem Backup habe ich so meine Sorgen. Einfach aus dem Grund das eine Vollsicherung auf mein Synology NAS (DS116) mit Nakivo nahezu 18 Stunden benötigt. Komplette Rücksicherung wäre wohl noch etwas länger...
Meine Vorhaben ist nun, das interne Plattensystem meines VMWare Hosts zu beschleuningen, ebenso eine schnellere Backuplösung. Auch mit dem Hintergedanken Richtung 10Gb Ethernet.
Und hier hoffe ich auch ein paar Ideen von euch.
Es kann was kosten, allerdings sollte es keine "Overkill" Lösung sein, da für Zuhause.

 

[Brokk]

Was für ne Software verwendest du denn für das Backup

18 Std hört sich nach viel an, macht die Software immer ein Vollbackup?

 

[crazyk]

genau, einmal Vollsicherung mit zb Veeam Backup B&R in der CE Version.

Dann werden nur noch Änderungen übertragen - fertig

 

[scimob]

Ich verwende aktuell Nakivo in der Version 9.0.0.35361.
War bei dem Synology DS116 mit dabei. Funktioniert an sich gut.
Das sichert immer inkrementell, nur die Erstsicherung ist natürlich ein Vollbackup. Ich mache aber ungefähr alle 3 Monate ein neues Vollbackup, was halt immer länger und länger dauert. Die Daten werden ja nicht weniger.
Frage zum Veeam CE. Hatte ich auch schon im Blick. Läuft das als VM mit? Ich hab mich da noch nicht so tief damit befasst. Kann mir aber nicht vorstellen das Veeam massiv schneller ist...

 

[Brokk]

Veem läuft auf einer Windows VM.

Ich hab Backup and Recovery in der Comuntiy Edition laufen.

Das Programm hat dann Zugriff auf den ESX oder HyperV und das NAS.

Es macht bei mir 1 Vollsicherung und dann kontinuierlich inkrementell alle 3 Std.

Veam kümmert sich um die dedub und um die Konsitenz der Backups.

Noch also seit ca 2 Jahren ist mir keine der Sicherungen kaputt gegangen.

Wenn man bedenkt das das Programm mit 10 Lizenzen kostenlos ist kann man sich nicht beschweren. Gibt halt keinen Support!

 

[scimob]

Ich denke eher das bei der Flaschenhals die Platten im ESXi und im NAS sind. Dazu nur "nur" Gigabit...
Das Veeam CE werd ich aber mal probieren.

 

[VirtuGuy]

Ist bei der DS116 nicht auch Active Backup von Synology dabei? Das wäre deutlich einfacher als Veeam und würde keine extra VM benötigen.

 

[Firebl]

5 TB bei 1 Gbit LAN dauern alleine im Idealfall bei 115 MB/s schon über 12h. für wesentlich bessere Voll-Backups muss schon schnellere Hardware mit 10G-Ethernet her.

 

[fdsonne]

Ich würde viel eher den Ansatz ändern... Weil dann brauchts weder neues Netzwerk Equipment noch muss man mit Hardware/Geld auf das Problem schmeißen...

Ich würde, wenn es geht, mit dem Veeam Free (CE) Ding sichern. Und als Sicherungsziel ein ReFS Storage nutzen.
Veeam als Sicherungssoftware sollte bei so nem Konstrukt dann in einer VM auf dem Host laufen, weil man sich damit der HotAdd Option bedient (spart es den Traffic über das Hypervisor-Managment Interface zu ziehen)
Das Sicherungsziel wäre dann eine iSCSI LUN, eingebunden vom externen Synology NAS -> formatiert mti ReFS in der Sicherungs-VM. Ggf. auch Mount on Demand, wenn man da noch bisschen mehr Sicherheit haben will - ala Cryptotrojaner Zeugs oder bei Stromproblemen kein Plan was noch.

Als Sicherungsmethode setzt man auf Synthetic Jobs, das spart das permanente Schreiben des Vollbackups und funktioniert zusammen mit ReFS so, dass nur die Änderungen übertragen werden. Gepaart mit Debup an der Stelle schrumpft damit auch der Datenbestand total im Ziel recht stark. Zudem kann man noch x-daily Stände aufheben.

Sollte das immernoch nicht zum gewünschten Effekt führen, wäre es noch ne Option auf Incremental forever zu gehen, sodass man nur noch auf inkrementelle Backups geht. Wer möchte kann aus diesen dann zyklisch wenn ich das grad nicht verwechsel (sitze nicht vor der Konsole) synthetic full Jobs anfertigen. Er errechnet damit aus den geänderten Blöcken zum letzten Job einen "neuen" Vollbackup Stand und schreibt diesen. Was um Welten schneller gehen sollte als die Source alle Nase lang komplett abzuziehen.


Und wenn das alles nichts ist, wäre immernoch die Option, den Gedanken von Vollbackups der Media-Daten zu verwerfen.
Ich nutze privat an der Stelle bspw. ein Script, was mir Checksummen dieser Daten vom Media-NAS zieht, nicht alle Files auf einmal, dauert halt ewig, aber immer in Zeiten wo mich das nicht stört, bspw. nachts oder wenn ich nicht Zuhause bin. Ich habe diese Daten in mehrfacher Ausführung auf externe HDDs, extern gelagert nochmal vorliegen. Immer wenn was dazu kommt, nehme ich mir den ältesten Backup Stand und repliziere das Delta da drauf.
Stelle ich fest, ich hab einen Bitfehler oder es stirbt ne Disk -> nehme ich so ne Backup Disk und spiele den Spaß zurück. Fertig... Alles ohne permanente Vollbackups usw. usf. Eine Kopie der Soll-Checksummen liegt auch jeweils auf den Backup Disks. Sodass ich beim Rückspielen auch merke, ob das File dem soll-stand entspricht oder ich zur nächsten Backup Disk greifen muss.
MMn ist es da definitiv nicht notwendig, den kompletten Fileserver mit der Medialib zu Vollbackupen... Weil, das sind halt "nur" Media Daten. Theoretisch wären sogar Bitfehler dort verschmerzbar - das wird fast Niemand merken. Aber ich sah das als sportliche Herausforderung bei mir

 

[scimob]

@VirtuGuy : Das DS116 hat leider kein Active Backup for Business. Ich denke auch nicht das eine andere Software das Problem beseitigen würde. Interessehalber werd ich aber Veeam zumindest mal wegen der generellen Funktionalität antesten.

@Firebl : Ich denke auch das genau da das eigentliche Problem begraben liegt.

@fdsonne : Den Ansatz fürs Backup zu ändern hatte ich auch schon im Sinn. Das Problem ist das mein kompletter Datenbestand in einer VM mit 2 VHDs liegt.
Funktioniert für den Betrieb tadellos, aber zum sichern... Na ja, das Problem ist erst durch die Menge entstanden.
Vielleicht wäre es hilfreich die Daten etwas zu kategorisieren. Video und Audio ist recht statisch. Ab und an kommt mal was dazu. Ebenso bei den Bildern.
Wenn man die Files einfach wie Files behandelt wäre tatsächlich eine Sync Lösung für das Backup außerhalb der Windows Server VM effektiver.
Ach ja, und die Sache mit den Cryptotrojanern, guter Punkt: Das NAS läuft nur während dem Backup. Sonst ist es aus.
Werd mir das mal durch den Kopf gehen lassen.
Nicht gelöst: Im Falle einer kompletten Sicherung/Rücksicherung dauert das trotzdem ewig.

Ach ja! Ich sichere natürlich "forever incremental". Nur stirbt mir alle heilige Zeit mal das Repository von Nakivo (Warum? Keine Ahnung.), was dann auch wieder erst mal ein Vollbackup erfordert.
Und nein, da ist nix kaputt. Außer eben das Nakivo auch nur zu 99,9% funktioniert....

 

[gea]

Eine weitere Alternative wäre es, die VMs auf ZFS/NFS zu speichern statt auf local datastore. Damit hätte man direkten und viel schnelleren Zugriff auf die VMs via NFS/SMB, Prüfsummenverifizierung, Versionierung via Snaps, schnelles Backup per ZFS Replizierung und optional sicheres Schreiben auch mit aktiviertem RAM Schreibcache.

Man sollte dazu den RAM erweitern z.B. auf 32GB damit eine Storage VM 8-16 GB erhalten kann. Dazu sollte man einen HBA Festplattencontroller einsetzen, den man entweder per pass-through komplett an die Storage VM gibt oder über den man einzelne Sata/SAS Platten an VMs durchreichen kann. HBAs für ZFS gibts billig in der Bucht. Er sollte einen LSI 2008, 2307 oder 3008 Chip haben und idealerweise ohne Raidfunktionen arbeiten. Das nennt sich IT Modus für Software Raid. Einfach in der Bucht nach "lsi it modus" suchen. Gibts günstig gebraucht.

Da eine Storage VM auch direkt SMB auf ZFS anbietet, könnte man sich den Windows Server sparen und hätte ein viel sichereres Dateisystem, dennoch "vorherige Versionen" und volle Crash Sicherheit mit CopyOnWrite. Für Mediadienste entweder das nehmen was die Storage VM anbietet (minidlna, Plex) oder halt doch als VM mit Daten auf ZFS.

Lokal hat man dann volle Dateiversionierung z.B. stündlich, täglich, wöchentlich, monatliich.. für die VMs und für SMB. Die schnellste Art das zu sichern ist ZFS Replikation. Damit kann man auch Petabytes übers Netz bis herunter zu einer Minute auf zwei Systemen in sync halten. Man braucht entweder einen zweiten ZFS Server oder aber aber man nutzt externe Platten (Hotplug oder USB). Das Backup kann ZFS verschlüsselt sein. Da man vollen Filezugriff hat (eine VM ist ein Ordner auf NFS), könnte man auch per rsync direkt oder aus einem Snap auf ein weiteres lokales System sichern. Per Rclone (rsync für Cloud) könnte man auf einen Google, Amazon S3 oder kompatiblen Cloudspeicher sichern. Mit minIO kann man S3 auch lokal/inhouse auf ZFS machen. Bei OmniOS ist das direkt dabei.

Versuchen kann man das mit meinem ESXi ova ZFS Server Template. Herunterladen und die OVA bereitstellen. Dann ein Dateisystem anlegen (kann für erste Tests auch eine virtuelle Platte sein), das per NFS und SMB freigeben. In ESXi dann NFS mounten und für VMs nutzen.

In letzter Konsequenz installiert man damit eine Full Featured NAS/SAN web appliance, halt nicht auf eigener Hardware sondern virtualisiert unter ESXi.

Download (Opensource OmniOS mit kostenloser napp-it Version)

napp-it // webbased ZFS NAS/SAN appliance for OmniOS, OpenIndiana and Solaris : Downloads

napp-it.org - ZFS NAS SAN Server mit einer durch den Benutzer anpassbaren Weboberfläche // All In One server = virtualisierter lauffähiger ZFS-Server

napp-it.org

Manual
https://napp-it.org/manuals/index.html (Punkt 5b)

 

[scimob]

Ich denke ich hab da einige Ansätze. In den kommenden Tagen werd ich etwas testen, mal sehen ob da was brauchbares rauskommt.