danielmayer
Enthusiast
Thread Starter
- Mitglied seit
- 30.03.2005
- Beiträge
- 1.010
Hallo an Alle,
ein paar vorgeschaltete Threads u.a. zu diesem Board gibt es zwar, jedoch keine Besitzer-Meldungen. Also fange ich damit mal an: Ich teste seit einer Woche das C2750D4I (8 Kerne).
Zunächst mal: Linux sollte ab Kernel 3.9 das Board unterstützen (ACPI, Power-Save-Modes, LAN, etc.), ich nutze 3.13 (als rc6).
"Hab ich mir so gedacht":
0) Basis-System: Ubuntu 13.10->14.04 LTS asap., Kernel 3.13.x
1) Der eine PCIe-8x-Slot soll erweitert werden auf mind. 2 PCIe x4, besser 1 PCIe x4 + (2 x2 oder 4 x1)
2) VM-Host
Der Thread wird "work-in-progress", zumal es für 2) schon reichlich Probleme gibt.
Das Bios bietet außergewöhnlich wenige Einstellungsmöglichkeiten für ein Server-Board. So z.B. kam ein "ECC enable/disable"-Schalter erst dazu, als ich das über den - guten - Support mit der Bios Version 1.51 angefordert hatte. Es fehlen aber alle Feineinstellungen dazu, z.B. Multibit Error Correction, die Prüfzeiten, etc, die ich zumindest von AMD-Server-Boards gewohnt bin, auch von meinem 5520-Xeon-Board. Vielleicht wird das über künftige Versionen frei geschaltet. Optisch nicht ganz schön gelöst sind die 12 SATA-Ports, verteilt auf drei Controller. Da kann man durchaus schnell durcheinander kommen. Per default ist der 4xMavell deaktiviert, so dass für eine dort angebrachte Systemplatte erst mal das Bios bemüht werden muss. Eine Bios-seitige Software-Raid-Lösung gibt es nicht. Zum Glück.
zu 0)
Ubuntu 13.10 Server x64 startet auf dem Board problemlos. Das Übersetzen des eigenen Kernels hatte sich dagegen als sehr schwer herausgestellt, da völlig die Dokumentation fehlt, welche PCI-Optionen, Treiber, etc. für das Atom-Board zu aktivieren sind. Bei den Treibern hilft zwar ein "make localyesmod", aber nicht bei der Systemkonfiguration selbst. Im Ergebnis musste ich "reverse" arbeiten, d.h. mit dem neuen Kernel "make oldconfig" auf die 13.10-Standards machen, womit nahezu sämtliche Module aktiviert waren. Dann händisch alles entfernen, von dem ich mir sicher war, danach noch das o.g. "make localyesmod". Damit läuft nun 3.13-rc6 mit vier derzeit noch 4 Modulen: gpio_ich, raid0, multipath, linear - also überwiegend meine Raid5-Konfiguration. Aber was der Avoton/das Board nun wirklich "braucht", weiß ich nicht
Windows habe ich nicht ausprobiert, sollte aber ab Win7 kein Problem darstellen.
Kernel 3.13 und 3.12 hatten reproduzierbare, aber nicht weiter identifizierbare Abstürze zur Folge, wenn ich drei Netzzugriffe von meiner Workstation auf die beiden Raids (mit JFS) hatte. Mit Kernel 3.10.27 keine Probleme.
zu 1)
Ein fettes "Dankeschön" an den Asrock-Support, der auf jede meiner Anfragen binnen 48h geantwortet hatte. Ich nutze nun erfolgreich eine passive Riserkarte von Supermicro, nachdem Asrock mit einem Bios-Update die Bifurcation-Control bereitstellt: x8 oder x4/x4 sind im Bios wählbar, ich betreibe derzeit eine dual-10GBit-NIC und eine 40Gbit-Infiniband-Karte erfolgreich. Da der Avoton "nur" vier PCIe-Register vorhält, und bei Asrock zwei durch den PEX8608 und einen der Marvell-SATA-Chips verbraucht sind, geht nur noch x4/x4. Ohne dem Marvell "wäre" x4/x2/x2 mit einer ebenfalls von Supermicro erhältlichen passenden Riserkarte auch eine 3fach-PCIe-Lösung möglich gewesen. Bin aber reichlich zufrieden jetzt!
zu 2)
Leider nicht so möglich. Der Avoton hat kein VT-d-Feature, auch ein Dank an den Intel-Support für die flotte Recherche und Klärung. VT-d ist für das Passthrough zwingend nötig und "eigentlich" ein Chipsatz-Feature. Der Avoton ist eine CPU "ohne" Chipsatz, daher hatte ich Hoffnung... Leider nun endgültig geklärt: Für PCI-Passthrough ist der Avoton nicht geeignet. Ansonsten läuft die Virtualisierung aber hervorragend (bislang Windows).
01.08.2016: Auf Anfrage: Die Riser-Karte ist eine Supermicro R2UU-2E4R. Keine Bridge, nur schlichte Splittung.
02.08.2016: Wieder mal der perfekte Support von Asrock: Wer die modifizierten BIOS für C2750/C2550 mit der x4/x4-Option benötigt, kann sich per PN melden. V2.94 für C2750 und V2.34 für C2550 (aktuellstes Bios zu heute).
Gruß
Daniel
(last edit: 01.08.2016)
ein paar vorgeschaltete Threads u.a. zu diesem Board gibt es zwar, jedoch keine Besitzer-Meldungen. Also fange ich damit mal an: Ich teste seit einer Woche das C2750D4I (8 Kerne).
Zunächst mal: Linux sollte ab Kernel 3.9 das Board unterstützen (ACPI, Power-Save-Modes, LAN, etc.), ich nutze 3.13 (als rc6).
"Hab ich mir so gedacht":
0) Basis-System: Ubuntu 13.10->14.04 LTS asap., Kernel 3.13.x
1) Der eine PCIe-8x-Slot soll erweitert werden auf mind. 2 PCIe x4, besser 1 PCIe x4 + (2 x2 oder 4 x1)
2) VM-Host
VM1: FreeNAS, PCI-Passthrough, PCI-Passthrough der SATA-Controller an eine FreeNas-VM, PCI-PT des (erweiterten) x4-Slots für eine 10Gbit-NIC; 4 dauerhaft zugewiesene Kerne
VM2: Minimal-Ubuntu als VDR-/Medienserver, da mir VDR 2.x doch noch zu häufig abstürzt - vermutlich wegen der mit PCI-Passthrough durchzureichenden Cine Dual DVB-S2- PCIe x1-Karte. Dazu Minidlna möglichst in der Transcode-Version. Ggf. weitere Dienste, jdownloader, etc; 1 logisch zugewiesener Kern
VM3: Windows Server 2008R2 für Spiel und Spaß: privates Exchange o.ä. Jedenfall just for fun; 2 logisch zugewiesene Kerne
VM4: LinuxMCE-Test und Spaß; 2 logisch zugewiesene Kerne
Der Thread wird "work-in-progress", zumal es für 2) schon reichlich Probleme gibt.
Das Bios bietet außergewöhnlich wenige Einstellungsmöglichkeiten für ein Server-Board. So z.B. kam ein "ECC enable/disable"-Schalter erst dazu, als ich das über den - guten - Support mit der Bios Version 1.51 angefordert hatte. Es fehlen aber alle Feineinstellungen dazu, z.B. Multibit Error Correction, die Prüfzeiten, etc, die ich zumindest von AMD-Server-Boards gewohnt bin, auch von meinem 5520-Xeon-Board. Vielleicht wird das über künftige Versionen frei geschaltet. Optisch nicht ganz schön gelöst sind die 12 SATA-Ports, verteilt auf drei Controller. Da kann man durchaus schnell durcheinander kommen. Per default ist der 4xMavell deaktiviert, so dass für eine dort angebrachte Systemplatte erst mal das Bios bemüht werden muss. Eine Bios-seitige Software-Raid-Lösung gibt es nicht. Zum Glück.
zu 0)
Ubuntu 13.10 Server x64 startet auf dem Board problemlos. Das Übersetzen des eigenen Kernels hatte sich dagegen als sehr schwer herausgestellt, da völlig die Dokumentation fehlt, welche PCI-Optionen, Treiber, etc. für das Atom-Board zu aktivieren sind. Bei den Treibern hilft zwar ein "make localyesmod", aber nicht bei der Systemkonfiguration selbst. Im Ergebnis musste ich "reverse" arbeiten, d.h. mit dem neuen Kernel "make oldconfig" auf die 13.10-Standards machen, womit nahezu sämtliche Module aktiviert waren. Dann händisch alles entfernen, von dem ich mir sicher war, danach noch das o.g. "make localyesmod". Damit läuft nun 3.13-rc6 mit vier derzeit noch 4 Modulen: gpio_ich, raid0, multipath, linear - also überwiegend meine Raid5-Konfiguration. Aber was der Avoton/das Board nun wirklich "braucht", weiß ich nicht
Windows habe ich nicht ausprobiert, sollte aber ab Win7 kein Problem darstellen.
Kernel 3.13 und 3.12 hatten reproduzierbare, aber nicht weiter identifizierbare Abstürze zur Folge, wenn ich drei Netzzugriffe von meiner Workstation auf die beiden Raids (mit JFS) hatte. Mit Kernel 3.10.27 keine Probleme.
zu 1)
Ein fettes "Dankeschön" an den Asrock-Support, der auf jede meiner Anfragen binnen 48h geantwortet hatte. Ich nutze nun erfolgreich eine passive Riserkarte von Supermicro, nachdem Asrock mit einem Bios-Update die Bifurcation-Control bereitstellt: x8 oder x4/x4 sind im Bios wählbar, ich betreibe derzeit eine dual-10GBit-NIC und eine 40Gbit-Infiniband-Karte erfolgreich. Da der Avoton "nur" vier PCIe-Register vorhält, und bei Asrock zwei durch den PEX8608 und einen der Marvell-SATA-Chips verbraucht sind, geht nur noch x4/x4. Ohne dem Marvell "wäre" x4/x2/x2 mit einer ebenfalls von Supermicro erhältlichen passenden Riserkarte auch eine 3fach-PCIe-Lösung möglich gewesen. Bin aber reichlich zufrieden jetzt!
zu 2)
Leider nicht so möglich. Der Avoton hat kein VT-d-Feature, auch ein Dank an den Intel-Support für die flotte Recherche und Klärung. VT-d ist für das Passthrough zwingend nötig und "eigentlich" ein Chipsatz-Feature. Der Avoton ist eine CPU "ohne" Chipsatz, daher hatte ich Hoffnung... Leider nun endgültig geklärt: Für PCI-Passthrough ist der Avoton nicht geeignet. Ansonsten läuft die Virtualisierung aber hervorragend (bislang Windows).
01.08.2016: Auf Anfrage: Die Riser-Karte ist eine Supermicro R2UU-2E4R. Keine Bridge, nur schlichte Splittung.
02.08.2016: Wieder mal der perfekte Support von Asrock: Wer die modifizierten BIOS für C2750/C2550 mit der x4/x4-Option benötigt, kann sich per PN melden. V2.94 für C2750 und V2.34 für C2550 (aktuellstes Bios zu heute).
Gruß
Daniel
(last edit: 01.08.2016)
Zuletzt bearbeitet: