Truenas | Dateien von SSD regelmäßig in Pool verschieben

[GeneralDesaster]

Hallo Leute,

bei dem Thema neue Hardware für meine NAS habt ihr mir ja schon geholfen - https://www.hardwareluxx.de/community/threads/truenas-mit-4-festplatten-mirror.1364018/

Soweit funktioniert meine neue Kiste schonmal.

Jetzt habe ich noch eine weitere Frage.

Meine Nutzung der NAS: 1 x SSD SATA als BootPool (inkl. SystemDatasetPool)
1 x NVMe m.2 für alle Apps
2 x HDD WD RedPlus im Mirror für die Daten

Snapshots werden täglich erstellt und im Mirror gespeichert.
Meine alte Synology DS216j steht ein paar km entfernt und dient als "Backup". Hierhin schiebe ich alle 2 Tage mittels CloudSynkTask vom HDD Mirror die geänderten Daten. Im Moment noch keine Snapshots.

Mit Syncthing synchronisiere ich zwischen - Laptop <--> NAS <--> Desktop
Smartphone -> NAS
Mit einem Dateimanager SFTP - 2 x Smartphone -> NAS

Funktioniert soweit alles.

ABER. Ich hätte gerne dass meine HDDs, da sie nicht wirklich oft gebraucht werden, zumindest über Nacht in den Spindown gehen.

Disk Einstellungen:
HDD Standby:20
Adv. Power Management:1
Enable S.M.A.R.T.:Yes

S.M.A.R.T. ​

Einstellungen

Check Interval*
30
Power Mode*
Standby

Das Problem ist, das Syncthing anscheinend die ganze Zeit die HDDs aufweckt. Deaktiviere ich die APPs gehen sie nach ca. 20 min in den Spindown.
Ich habe schon einiges herumprobiert und gelesen, aber igendwie komme ich auf keine Lösung.

Jetzt habe ich überlegt, eine einzelne SATA SSD zu verwenden, darauf die Daten via Syncthing zu schreiben, und sie z.B. einmal pro Tag auf den Mirror-Pool zu verschieben. Dann würde ich die HDDs 1 x täglich aufwecken, Daten von der SSD schreiben, Snapshots erstellen, Backup auf die Synology schreiben, und dann wieder schlafen legen.

Oder gibt es vielleicht eine bessere Methode als Syncthing? Was würdet ihr mir da empfehlen?

PS: Ich weiß, Spindown ist schlechter als durchlaufen lassen, aber es geht mir nicht nur um den Energeiverbrauch. Weil die NAS in meiner Wohnung im Wohnbereich steht, auch um die Lautstärke. Und meine alten WD Red in der Synology gehen nun seit nunmehr 9 Jahren ohne Probleme nach 20 min. in den Spindown.

PPS: Ja, hätte ich von Haus aus SSD´s genommen, hätte ich jetzt dieses Probelm nicht

MfG
Daniel

 

[Haldi]

1 x NVMe m.2 für alle Apps
2 x HDD WD RedPlus im Mirror für die Daten

Jetzt habe ich überlegt, eine einzelne SATA SSD zu verwenden, darauf die Daten via Syncthing zu schreiben

Also wieso hast du die Daten nicht direkt auf die nVME gelegt?

Ich hab 4x6TB WD Red für die Grossen Dateien.
1x 2TB nVME für apps, VM, Downloads, Immich Foto Synchronisation und alle kleineren Dateien.
Die wird dann 1x Täglich mit allen Snapshots auf die HDDs geklont.
Die HDDs dann aufs Offshore Backup.

Und meine alten WD Red in der Synology gehen nun seit nunmehr 9 Jahren ohne Probleme nach 20 min. in den Spindown.

Dann hast du aber sehr wenig apps installiert gehabt. Und auch keine Download Station mit RSS Feed.

 

[pwnbert]

Ich weiss, das ist kerine tolle Antwort, aber hast mal über Unraid nachgedacht? Wenn ich das richtig verstehe... dann willst du ja genau das, worin Unraid gut ist, oder?

 

[GeneralDesaster]

Also wieso hast du die Daten nicht direkt auf die nVME gelegt?

Ich habe eine günstige 128gb bekommen. Ich dachte die Apps soll man auch auf einen eigenen Speicher legen. So wie das Betriebssystem.

Die wird dann 1x Täglich mit allen Snapshots auf die HDDs geklont.
Die HDDs dann aufs Offshore Backup.

Das klingt gut. Also Snapshots liegen auch auf der NVMe?
Wie klonst du die intern? Offshore mit CloudSyncTasks?

Dann hast du aber sehr wenig apps installiert gehabt. Und auch keine Download Station mit RSS Feed.

Ja, viele habe ich nicht installiert. Das stimmt.

MfG
Daniel

Beitrag automatisch zusammengeführt: 30.03.2025

Ich weiss, das ist kerine tolle Antwort, aber hast mal über Unraid nachgedacht? Wenn ich das richtig verstehe... dann willst du ja genau das, worin Unraid gut ist, oder?

Ich habe mich gestern schon ein bisschen mit dem Thema Unraid beschäftigt.
Würde aber gerne, wenn möglich, erst versuchen es mit Truenas hin zu bekommen. Sonst wäre ich natürlich nicht abgeneigt es mit Unraid zu versuchen.

MfG
Daniel

 

[pwnbert]

Jetzt habe ich überlegt, eine einzelne SATA SSD zu verwenden, darauf die Daten via Syncthing zu schreiben, und sie z.B. einmal pro Tag auf den Mirror-Pool zu verschieben. Dann würde ich die HDDs 1 x täglich aufwecken, Daten von der SSD schreiben, Snapshots erstellen, Backup auf die Synology schreiben, und dann wieder schlafen legen.

... aber du musst doch lesen auch von dort, also Syncthing liest ja auch und schreibt nicht nur.

Das kann doch nicht funktionieren, wie du dir das vorstellst, oder?

 

[GeneralDesaster]

Synthing liegt ja auf dem NVMe-Pool für Apps. Truenas läuft auf der SATA SSD.

Ich war der Meinung, wenn die Clients von Syncthing offline sind, dass Syncthing wartet bis sich ein Client wieder meldet, und nicht permanent auf den HDD-Pool zugreift.
Weil wenn alle Clients offline sind, was soll dann zu überwachen sein? Im HDD Pool kann sich ja so gesehen nichts ändern. Es können ja keine Daten von wo anders auf die Datasets kommen.

Wie gesagt, das war jedenfalls mein Verständnis davon.

Wenn die Daten jetzt auf der gleichen NVMe liegen würden wie Syncthing, wäre die ja sowieso die ganze Zeit online.
Deshalb war meine Überlegung ob es eine relativ simple Möglichkeit gibt (nicht Syncthing), die Daten von dort regelmäßig auf den HDD-Pool zu verschieben ohne die HDDs permanent am Einschlafen zu hindern.

Wie gesagt, sollte dies nicht, oder nur schwer möglich sein, würde ich auch auf Unraid wechseln.
Ich will nur nicht dass ich dann bei Unraid vor dem gelichen Problem stehe.

 

[Haldi]

Also Snapshots liegen auch auf der NVMe?

Muss zwingend sonst funktionieren Snapshots nicht. AFAIK

Wie klonst du die intern? Offshore mit CloudSyncTasks?

Mit nem Replication Task.


Über den VPN Netbird der eigentlich Wireguard nutzt auch auf das Offshore system.

 

[GeneralDesaster]

Vielen Dank!
Das hilft mir schon sehr weiter. Werd ich gleich mal testweise einen Task starten....

MfG
Daniel

Beitrag automatisch zusammengeführt: 30.03.2025

Eine Frage noch. Der ReplicationTask macht ja eigentlich auch nur Snapshots oder?
Das heißt direkten Zugriff auf die Daten habe ich dadurch nicht auf den HDDs? Wenn die NVMe komplett stirbt, kann man dann überhaupt noch was anfangen mit den Replikationen? Wie würde man da vorgehen?

 

[gea]

Eine ZFS Replikation kopiert/syncronisiert ein ZFS Dateisystem. Mit der Kopie kann man ganz normal arbeiten (nachdem man den Replikationsjob anhält). Die Snapshots auf source/destination gibts zusätzlich. Die werden für eine fortlaufende inkrementelle Replikation gebraucht.

 

[xST4R]

Ich weiss, das ist kerine tolle Antwort, aber hast mal über Unraid nachgedacht? Wenn ich das richtig verstehe... dann willst du ja genau das, worin Unraid gut ist, oder?

da bin ich voll deiner meinung

---

zum te:

das was du vorhast kann unraid perfekt und truenas nicht so gut (es gibt allein schon probleme bei truenas die platten permanent im spindown zu halten, da muss man zb s.m.a.r.t. deaktivieren usw.)
bei unraid kannst du quasi deine daten den ganzen tag cachen und aller x stunden packt der mover die daten dann vom cache auf die hdd ...

genau so mach ich das auch :

(cache-storage zu nas-storage)

 

[GeneralDesaster]

Eine ZFS Replikation kopiert/syncronisiert ein ZFS Dateisystem. Mit der Kopie kann man ganz normal arbeiten (nachdem man den Replikationsjob anhält). Die Snapshots auf source/destination gibts zusätzlich. Die werden für eine fortlaufende inkrementelle Replikation gebraucht.

Hab das gestern noch getestet. 2 Test-Datasets erstellt. Replikationsjob von der NVMe nach HDD-Pool erstellt.
Auf der NVMe einen Test-Snapshot erstellt und mit dem Replikationsjob verknüpft.
Daten werden automatisch verschoben wenn der Test-Snapshot fertig ist.
Die Syncthing-Apps habe ich deaktiviert. Nach ~ 20min waren die HDDs im Spindown. Schaut schon mal gut aus.

S.M.A.R.T. ist noch aktiviert.

Sollte in den nächsten Stunden ausgeführt werden. Werde mal weiter beobachten.

Vielen Dank!

MfG
Daniel

Beitrag automatisch zusammengeführt: 31.03.2025

da bin ich voll deiner meinung

---

zum te:

das was du vorhast kann unraid perfekt und truenas nicht so gut (es gibt allein schon probleme bei truenas die platten permanent im spindown zu halten, da muss man zb s.m.a.r.t. deaktivieren usw.)
bei unraid kannst du quasi deine daten den ganzen tag cachen und aller x stunden packt der mover die daten dann vom cache auf die hdd ...

genau so mach ich das auch :

(cache-storage zu nas-storage)

Unraid will ich mir mal anschauen. Habe noch ein 2. Gigabyte MJ11 zum Basteln herumliegen.
Habe gestern mal 2 Sticks mit dem Unraid-Creator erstellt. Die Erstellung hat ohne Probleme funktiniert. Aber booten funktioniert nicht.
Einer der beiden Sticks, ich glaube 8GB, habe ich mit Truenas probiert -> bootet. Unraid -> bootet nicht.
Auch beim 2. Stick das selbe.....
Wäre ja zu einfach gewesen ;-)
Im Bios habe ich noch nicht wirklich Einstellungen gefunden, die nicht passen würden.
Hab da anscheinend was übersehen.

Oder hat jemand das gleiche Board und weiß, was da umstellt gehört? Wie gesagt, mit dem gleichen Stick mit Truenas wird der Stick ganz normal erkannt.

MfG
Daniel

 

[xST4R]

unraid ist zickig bei usb-sticks , vorraussetzung ist einen stick mit einer guid und sollte die größe von 32gb nicht überschreiten.

ich nutze diesen :

https://www.amazon.de/dp/B00A7XPU0U

etwas besonderes zum booten musst du nicht einstellen - einfach mit dem creator erstellen - ins bios gehen und boot reihenfolge auf den stick legen - done (es muss auch nichts installiert werden)

 

[GeneralDesaster]

unraid ist zickig bei usb-sticks , vorraussetzung ist einen stick mit einer guid und sollte die größe von 32gb nicht überschreiten.

ich nutze diesen :

https://www.amazon.de/dp/B00A7XPU0U

etwas besonderes zum booten musst du nicht einstellen - einfach mit dem creator erstellen - ins bios gehen und boot reihenfolge auf den stick legen - done (es muss auch nichts installiert werden)

Stick ist heute angekommen.
USB-Flash erstellt, angsteckt, läuft.
Danke!

Werde mich in nächster Zeit mal mit Unraid beschäftigen.
Im Moment schaut es mit Truenas eigentlich ganz gut aus. Muss aber noch weiter testen ob alles so läuft wie gedacht.
Werde die Tage dann genauer berichten.

Unraid wird jedenfalls im Trial getestet. Habe diese Woche mal die IT in meiner Firma besucht, und bei alten PC´s, die kurz vor der Verschrottung stehen, mal ein paar HDDs (zwischen 250GB und 1TB) ausgebaut. Konnte sogar eine 128gb SSD ergattern.
Damit kann ich mit meinem zweiten MJ11-EC1 mal herum basteln.

MfG
Daniel

 

[GeneralDesaster]

Guten Morgen,

nach etwas mehr als einer Woche kann ich ein erstes Fazit geben.
Es funktioniert jetzt alles so wie ich will. Synchthing läuft auf der NVMe und macht zuverlässig das was es soll.
1 x täglich werden Snapshots gemacht, und gleich danach werden die Replication Tasks ausgeführt, welche alles auf den HDD-Pool syncen. Ist das abgeschlossen, werden die Cloud Sync Tasks für das Backup auf die externe Synology ausgeführt.

S.M.A.R.T ist weiterhin aktiviert -> Check Intervall: 30min
Power Mode: Standby
HDDs -> HDD Standby: 20min
Advanced Power Management: 20min
S.M.A.R.T enabled

Die Smart Tests werden wöchentlich kurz nach den Cloud Sync Tasks ausgeführt. Da sind die Festplatten noch eine Zeit lang wach (sind die HDDs down, funktioniert S.M.A.R.T. nicht).

Überprüft habe ich das mit # smartctl -l selftest /dev/sdb
Sie gehen dann für den Rest des Tages in den Spindown und werden nicht mehr die ganze Zeit geweckt. Kann man gut mit Shelly über den Stromverbrauch sehen.



Mit Unraid habe ich auch mal herumgebastelt. Musste dann einmal die Kiste herunterfahren und stromlos machen, weil ich noch 2 HDDs zum testen angeschlossen hatte. Beim Hochfahren war alles wieder weg (alle Einstellungen, Array, Apps, Pairity....).
Habe den Boot-Stick an einem anderen USB-Port angesteckt. War das der Fehler? Oder ist das weil ich die Trial-Version benutze?

Danke

MfG
Daniel

 

[xST4R]

Mit Unraid habe ich auch mal herumgebastelt. Musste dann einmal die Kiste herunterfahren und stromlos machen, weil ich noch 2 HDDs zum testen angeschlossen hatte. Beim Hochfahren war alles wieder weg (alle Einstellungen, Array, Apps, Pairity....).
Habe den Boot-Stick an einem anderen USB-Port angesteckt. War das der Fehler? Oder ist das weil ich die Trial-Version benutze?

keine ahnung , hatte so ein problem eigentlich noch nie.
ein ausschalten vom pc ist normalerweise eigentlich kein grund wieso die daten plötzlich resettet sind.

 

[GeneralDesaster]

Ja komisch. Ich bin extra noch heruntergefahren bevor ich das Teil vom Strom getrennt hatte.
Vielleicht kann ich das ja irgendwie reproduzieren...