Hallo,
ich kann dir leider nicht alle Antworten geben, das müssen die anderen übernehmen.
1.) Welches Betriebssystem nimmt man am besten? Es gibt inzwischen ja schon viele Alternativen (freenas, nas4free, solaris, openindiana, zfsguru, nexentastor, ...)
"Am besten" gibts nicht, kommt immer auf deine Wünsche/Ansprüche an. Alle haben Vor- und Nachteile. Wenn du auf USB Stick installieren willst, fallen schon einmal Solaris, OpenIndiana und Nexentastor weg. Die laufen nur auf normalen HDDs/SSDs gut/flüssig. FreeNas, nas4free und zfsguru basieren alle auf FreeBSD (je nach Build von FreeBSD 8.x bis 9.x) und lassen sich sehr gut auf USB Sticks installieren.
2.) Kann ich nachträglich einfach von 4 auf 5 Platten in einem RAID-Z2 aufstocken (falls es erst mal nur 4 Platten werden)?
Geht schon ist aber nicht zu empfehlen schau dir mal die Stripesize an 4 HDDs @ RAID-Z2 = 128KB / 2 = 64KB und bei 5 HDDs @ RAID-Z2 = 128KB / 3 = 42,66* KB. Könntest ja die 5. als Spare machen, dann könnten bis zu 3 HDDs ausfallen, das wäre aber sehr übertrieben.
Hier mal Wiki von Solaris:
RAIDZ Configuration Requirements and Recommendations
A RAIDZ configuration with N disks of size X with P parity disks can hold approximately (N-P)*X bytes and can withstand P device(s) failing before data integrity is compromised.
Start a single-parity RAIDZ (raidz) configuration at 3 disks (2+1)
Start a double-parity RAIDZ (raidz2) configuration at 6 disks (4+2)
Start a triple-parity RAIDZ (raidz3) configuration at 9 disks (6+3)
(N+P) with P = 1 (raidz), 2 (raidz2), or 3 (raidz3) and N equals 2, 4, or 6
The recommended number of disks per group is between 3 and 9. If you have more disks, use multiple groups.
5.) Welche Verschlüsselungsmethode ist zu empfehlen? (Solaris mit ZFS eigener Verschlüsselung oder *BSD mit geli?)
Ab ZFS v31 also Solaris Express und aufwärts kannst du ZFS Verschlüsseln, hat natürlich die bessere Performance als mit GELI. Hab aber noch nie die Verschlüsselung aktiviert, da kann dir sicher jemand noch was dazu sagen.
6.) Sind die 8 GB Ram ausreichend für mein Vorhaben?
Bei ~ 6 TB Daten sollte das passen, ich weiß leider nicht was die Verschlüsselung noch "schluckt".
7.) Kann ich einfach ein weiteres 4GB ECC Modul dazu kaufen oder sollte ich beide Bänke mit gleichen Modulen ausstatten?
Meinst du jetzt einen anderen Hersteller? Kann ich dir leider nicht sagen, ich hab den N36L und 2x4 GB ECC von der selben Marke. Schau dazu mal lieber in den N36L/N40L Thread, da wird dir sicher schnell geholfen.
8.) Wie würdet ihr Vorgehen um Teile der Daten sicher auf eine externe USB/esata HDD periodisch zu backupen? Ich denke zusätzlich noch Truecrypt laufen zu lassen würde ziemlich langsam werden <= 10MB/s?
Auf der USB/eSata HDD auch ZFS Verschlüsselung anschalten, wie schon bei deinem NAS. Kannst doch pools importieren und exportieren nach belieben, da ist kein TrueCrypt und Co. notwendig.