Dateisystem für NFS Server mit vielen kleinen Dateien

Morpheus2200

Semiprofi
Thread Starter
Mitglied seit
04.08.2001
Beiträge
30.945
Demnächst habe ich die Möglichkeit einen NFS-Server nachdem Platten hinzugefügt werden mit einem neuen Filesystem zu beglücken wenn das Vorteile hat.
Momentan wird XFS genutzt.
Es wird wohl ein RAID 6 über 16 1TB SATA 7200rpm Platten fahren.
Eine HD davon als spare.
RAID Controller ist ein Areca ARC-1680

Der NFS-Server selbst hat einen 10GBit uplink und ausreichend CPU/RAM Reserven. Ca 200 clients sind mit GBit Ethernet (Backbone 10GBit) angebunden.

Momentan sind da knapp 10mio. Dateien bei 2TB Nutzung angelegt. Davon sind viele extrem klein und einige Dateien die auch mal ein paar GB groß werden.
Ich gehe mal davon aus, dass sich das System langsam im ähnlichen Verhältnis füllen wird.
Das Dateisystem muss Quotas und Dateien >4GB ermöglichen.

Ich habe auf einem anderen System mit XFS bei extrem vielen kleinen Files mit ACLs nicht gerade optimale performance gehabt.

Also gibts was besseres unter Linux nutzbares als XFS für meine Zwecke?
Ich brauche Quotas, die Möglichkeit files >4GB anzulegen und die performance sollte bei vielen kleinen Dateien nicht in den Keller gehen.
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Alternative:

Nicht neues Dateisystem sondern ein ZFS Server (NFS=Sun, Nexenta*, Solaris*) mit SSD read cache

gea
 
Hm die Frage die ich mir bei ZFS stelle ist, wie viel profit habe ich dadurch?
IO-intensiv sind meist eher die Schreibvorgänge.
Da viele Prozesse zeitgliech Daten erzeugen und die Ergebnisse werden dann meist nach Abschluss der Rechnung am Stück gelesen und kopiert.
Das verursacht nur bei vielen kleinen Files IO beim lesen sonst ist sinds eher einmalige sequentille reads.
Denke mal da bringt mir ein read-cache nicht viel oder?

Es gibt ein paar read only files, abder die verlagere ich schon auf eine SSD.

Ich denke ich verwende weiter XFS ohne ACLs und den NFS-server werde ich aktualisieren und mir die config nochmal genauer ansehen, denn der scheint noch nicht optimal rund zu laufen.

Wie sieht das bei ZFS eigentlich zuküftig aus? Seitdem das alles Oracle gehört finde ich einige der schicken SUN-technologien plötzlich verzichtbar ;-)
 
Beim Lesen vieler kleiner Dateien zählen vor allem IOPS. Gute Werte erhält man nur mit sehr schnellen und sehr vielen Festplatten, SSD-Only-Pools oder eben durch SSD oder DRAM Read/ Write Caches als Ergänzung zu langsamen Festplatten-Pools, wie sie eben transparent in ZFS integriert sind.

Es ist leider so, dass SUN wohl das beste Dateisystem und das rundeste Server-OS, gepaart mit einem schlechten Marketing verknüpft hat. Es ist fast so wie mit Apple. Die waren vor 20 Jahren schon revolutionär gut, gingen vor gut 10 Jahren auch fast Pleite.

Die Zukunft von ZFS ist aber ziemlich klar:

Oracle:
-Kommerzielles Oracle Solaris
-Nur für Tests, Entwickler und Evaluation freies Solaris Express
(Express 11 ist jetzt verfügbar)

Nexenta
-kommerzielles NexentaStor (=NexentaCore+add-ons+Support)
Hauptsponsoren von Illumos

Opensource/ Community
-Illumos (freie Kernelentwicklung)
-OpenIndiana (eine darauf aufbauende freie Distribution, Nachfolge von OpenSolaris)
-NexentaCore (vereinfacht Ubuntu Server mit Solaris-Kernel )
-weitere Distris (Schillix, Bellenix, Eon,..)
 
Zuletzt bearbeitet:
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh