Ryzen 3700X mit ASRock X470D4U als ESXi-Virtualisierungshost

So wie ich es verstanden habe, ist das so:
PCIe 6 (das ist der oberste) = 8x
PCIe 5 = 8x
PCIe5+6 per MUX verbunden, sodass PCIe 6 = 16x ist
PCIe4 = 4x
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Yo wird wohl so sein.
Wenn man dann im PCIe 6 eine 16x Karte einbaut ist der PCIe 5 unbrauchbar; vorrausgesetzt das man lässt die BIOS einstelluneg @ default.

Oder geschieht das mit dem MUX automatisch d.h. sobald in beiden Slots ne karte steckt ist es 8/8
 
Zuletzt bearbeitet:
Ja aber ich hatte vorher nichts im PCIe 6 stecken. Der Controller steckt in PCIe , weil der in dem PCIe 4 zu einem BOOTLOOP führt (Mag sein das der M1015 volle 8 Lanes braucht?)
Die Hypercard gabs für 30€ bei AMAZON und da wolte ich die mit zwei kleinen SSDs die ich hier noch liegen hatte testen.

Seit Sonntag steckt die Hypercard in PCIe6 der M1015 in PCIe 5. Gestern hab ich die QNAP 10 GB Karte in den Unteren gesteckt dann verschwidet eine der SSDs aus dem ESXi

Das verwirrt ein wenig weil theoretisch müsste (4/4 8 4) ja gehen oder?
 
Gestern hab ich die QNAP 10 GB Karte in den Unteren gesteckt dann verschwidet eine der SSDs aus dem ESXi
Was dann bedeutet, dass es zumindest in dem Board eben doch nur x8/x8 (Aufteilung auf 2 Slots aber dann keine Bifurkation) oder x4+x4+x4+x4 (Lane Bifurkation aber dann alle Lanes in einem Slot) gibt, so wie es auch auf der Produktseite stehen und eben keinen Modus der 8 Lanes an den einen Slot abgibt und Bifurkation (x4+x4) im anderen Slot.
 
Mal ne Frage, mag gerade beim Kumpel ESXI installieren. Bios ist 3.30. Er bleibt immer bei initializing storage stack hängen. Liegt das am Bios oder muss man noch was ändern ?
Oder gibt es ein neueres Bios wo ESXI funzt ? Er hat hat ja das Board mit den 2x 10G Nic.
 
Fragen wir mal anders, welche Version des ESXi installiest du? Ich hatte soewas beim 6.0.0 U3, da bekam ich einen ähnlichen Fehler nach dem Setup des ESXi.
6.5 Mag die internen SATA anschlüsse nicht und 6.7 hat sich dann einwandfrei installieren lassen
 
6.7U haben jetzt CSm deaktiviert, damit bekommen wir jetzt den Fehler.
 

Anhänge

  • TeamViewer_cQrM8abxkO.png
    TeamViewer_cQrM8abxkO.png
    26,7 KB · Aufrufe: 258
Bei mir geht 6.7 U3 problemlos mit deaktivertem CSM und einem 3900 PRO (standard X470D4U), allerdings mit L.3.33/AGESA 1004 B - eventuell einen anderen USB-Stick testen?
 
Zuletzt bearbeitet:
L.X.XX (also das L davor steht für Labor-BIOS bei ASRock (Rack), als Beta-BIOSe, die man über den Support anfragen kann/muss).

Der Fehler, den ihr hattet, war das kaputte RDRAND von Zen 2-CPUs vor AGESA 1003 ABB.
 
Übrigens, das disablen des C6 States hat keinen Effekt. Eben wieder einen C6 freue gehabt. Dann mit dem ZenStates Tool geschaut, und siehe da, er war noch an. Muss ich also über ein Script disabeln.

Code:
[root@millenium-fbe48 ZenStates-Linux]# ./zenstates.py
usage: zenstates.py [-h] [-l] [-p {0,1,2,3,4,5,6,7}] [--enable] [--disable]
                    [-f FID] [-d DID] [-v VID] [--c6-enable] [--c6-disable]

Sets P-States for Ryzen processors

optional arguments:
  -h, --help            show this help message and exit
  -l, --list            List all P-States
  -p {0,1,2,3,4,5,6,7}, --pstate {0,1,2,3,4,5,6,7}
                        P-State to set
  --enable              Enable P-State
  --disable             Disable P-State
  -f FID, --fid FID     FID to set (in hex)
  -d DID, --did DID     DID to set (in hex)
  -v VID, --vid VID     VID to set (in hex)
  --c6-enable           Enable C-State C6
  --c6-disable          Disable C-State C6
[root@millenium-fbe48 ZenStates-Linux]# ./zenstates.py -l
P0 - Enabled - FID = 78 - DID = 8 - VID = 3A - Ratio = 30.00 - vCore = 1.18750
P1 - Enabled - FID = 87 - DID = A - VID = 50 - Ratio = 27.00 - vCore = 1.05000
P2 - Enabled - FID = 7C - DID = 10 - VID = 6C - Ratio = 15.50 - vCore = 0.87500
P3 - Disabled
P4 - Disabled
P5 - Disabled
P6 - Disabled
P7 - Disabled
C6 State - Package - Enabled
C6 State - Core - Enabled
[root@millenium-fbe48 ZenStates-Linux]# ./zenstates.py --c6-disable
Disabling C6 state
[root@millenium-fbe48 ZenStates-Linux]#
 
Zuletzt bearbeitet:
Ich habe mich nun auch entschieden mir das Board und nen Ryzen als Ersatz für meinen HP Microserver Gen8 zu holen. Das Problem war das ich nicht mehr ausreichend RAM frei hatte für ZFS und VMs.
Folgendes ist es nun geworden:

ASRock Rack X470D4U
AMD Ryzen 5 3600
2*Kingston Server Premier DIMM 16GB, DDR4-2666, CL19-19-19, ECC (KSM26ED8/16ME)
be quiet! Pure Power 11 300W ATX 2.4 (BN290)
2*ADATA XPG SX8200 Pro 512GB, M.2 (ASX8200PNP-512GT-C)
ASUS Hyper M.2 X16 Card (90MC05G0-M0EAY0)
Fractal Design Define Mini C, schallgedämmt (FD-CA-DEF-MINI-C-BK)

Leider fehlen nun noch eine ADATA NVME und das Gehäuse. Aber einen ersten Test konnte ich schon machen.
Ich habe das Bios und das BMC auf die Beta 3.25 und 1.90 geflasht.
Da ich Proxmox auf dem Microserver einsetze, habe ich auch hier wieder Proxmox testweise installiert.
Es scheint alles zu funktionieren, nur sehe ich in dmesg einige errors:
Code:
[   10.944416] ccp 0000:2d:00.1: sev command 0x4 timed out, disabling PSP
[   10.944446] ccp 0000:2d:00.1: SEV: failed to get status. Error: 0x0
[   10.947723] EDAC amd64: Node 0: DRAM ECC enabled.
[   10.947725] EDAC amd64: F17h detected (node 0).
[   10.947732] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   10.947758] EDAC amd64: Error: Error probing instance: 0
[   11.009067] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.009069] EDAC amd64: F17h detected (node 0).
[   11.009079] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.009225] EDAC amd64: Error: Error probing instance: 0
[   11.052999] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.053001] EDAC amd64: F17h detected (node 0).
[   11.053011] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.053042] EDAC amd64: Error: Error probing instance: 0
[   11.096520] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.096522] EDAC amd64: F17h detected (node 0).
[   11.096531] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.096560] EDAC amd64: Error: Error probing instance: 0
[   11.141055] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.141056] EDAC amd64: F17h detected (node 0).
[   11.141064] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.141089] EDAC amd64: Error: Error probing instance: 0
[   11.189054] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.189055] EDAC amd64: F17h detected (node 0).
[   11.189063] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.189088] EDAC amd64: Error: Error probing instance: 0
[   11.225071] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.225072] EDAC amd64: F17h detected (node 0).
[   11.225080] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.225104] EDAC amd64: Error: Error probing instance: 0
[   11.269085] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.269087] EDAC amd64: F17h detected (node 0).
[   11.269095] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.269119] EDAC amd64: Error: Error probing instance: 0
[   11.316590] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.316591] EDAC amd64: F17h detected (node 0).
[   11.316600] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.316630] EDAC amd64: Error: Error probing instance: 0
[   11.353033] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.353035] EDAC amd64: F17h detected (node 0).
[   11.353042] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.353066] EDAC amd64: Error: Error probing instance: 0
[   11.405057] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.405059] EDAC amd64: F17h detected (node 0).
[   11.405067] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.405091] EDAC amd64: Error: Error probing instance: 0
[   11.444593] EDAC amd64: Node 0: DRAM ECC enabled.
[   11.444594] EDAC amd64: F17h detected (node 0).
[   11.444603] EDAC amd64: Error: F0 not found, device 0x1460 (broken BIOS?)
[   11.444627] EDAC amd64: Error: Error probing instance: 0

Hat dies tatsächlich mit dem Bios zu tun? Funktioniert mein System trotzdem (mit ECC für ZFS)?
Oder sollte ich mit dem Umbau noch auf die nächste Bios-Version warten?

Gruß
IonFan
Servus, ich hab "fast" haargenau die gleiche Hardware Kombo und die gleichen FEhlermeldungen wie du.
Laut Hersteller des Mainboardes: https://www.asrockrack.com/general/productdetail.asp?Model=X470D4U#Specifications
steht da:
*For Picasso Ridge and Raven Ridge CPUs, ECC is only supported with PRO CPUs.
und da unser AMD Ryzen 5 3600 halt zu Matisse Ridge gehört sollte das funktionieren.

Ich fand beim Boogel Hinweise darauf, dass es erst im Linux Kernel 5.4 laufen soll? Weiß jemand was genaureres?
 
Ok das beruhigt mich schonmal das du auch diese Meldungen hast. Bis jetzt hatte ich auch noch keine Probleme. Die Kiste läuft schon seit Anfang des Jahres durch.
Ich habe übrigens nicht wie in dem Post die (nicht existente) Bios Version 3.25 sondern die letzte Verfügbare 3.30.
Heißt das das Matisse Ridge auch zu den PRO CPUs gehört?
Mal schauen wann Proxmox auf den 5.4er Kernel wechselt. Aber ich kann mir vorstellen das das noch ein bisschen dauert.
 
Ok das beruhigt mich schonmal das du auch diese Meldungen hast. Bis jetzt hatte ich auch noch keine Probleme. Die Kiste läuft schon seit Anfang des Jahres durch.
Ich habe übrigens nicht wie in dem Post die (nicht existente) Bios Version 3.25 sondern die letzte Verfügbare 3.30.
Heißt das das Matisse Ridge auch zu den PRO CPUs gehört?
Mal schauen wann Proxmox auf den 5.4er Kernel wechselt. Aber ich kann mir vorstellen das das noch ein bisschen dauert.
Probleme habe ich auch keine, beunruhigt bin ich aber schon: ECC compatible Hardware im Einsatz die aber Fehler wirft.
Ich gehe auch davon aus, dass Matisse RIdge NICHT zu den PRO CPUs gehört denn es gibt halt wirklich eine PRO Version von amd ryzen 5 3600 pro => https://www.amd.com/en/products/cpu/amd-ryzen-5-pro-3600

Ich hatte die Angaben von Asrock so verstanden, daß aus der Picasso Ridge und Raven Ridge nur PRO CPUs ECC utnerstützen, alle anderen also auch Matisse Ridge eben auch die nicht PRO CPUs.
 
[...]
Ich hatte die Angaben von Asrock so verstanden, daß aus der Picasso Ridge und Raven Ridge nur PRO CPUs ECC utnerstützen, alle anderen also auch Matisse Ridge eben auch die nicht PRO CPUs.

- ECC funktioniert mit non-APU Zen+/Zen 2 auch mit der non-PRO-Variante genau gleich (habe 3700X und 3900 PRO auf den Boards), nur bei einer APU muss es zwingend die PRO-Variante sein damit (Multi-bit) ECC aktiv ist.

Ich bin ein Linux-Laie, werfe aber folgende Theorie zu euren Fehlermeldungen ins Rennen, vielleicht kann das hier jemand konkreter untersuchen:

Im X470D4U ist die Funktion des Auslesens von RAM-SPD-Infos über das Betriebssystem im Eimer, unter Windows sehe ich bespielsweise 1 x 128 GB "undefiniert" statt 4 x 32 GB Samsung-Module. ASRock Rack habe ich das schon letzten Sommer gemeldet, aber wie üblich leider keine kompetente Reaktion seitens des Supports.

Ich könnte mir vorstellen, dass dies die Fehlermeldungen in Linux auslöst - sollte aber keinen Einfluss auf die ECC-Funktionalität haben.
 
Zuletzt bearbeitet:
Chipsatz-SATA und -USB hatten wir hier glaube ich schonmal besprochen, leider klappt das beim X470D4U nicht (gehe davon aus, dass es beim X470D4U-2T bei gleichem BIOS-Stand gleich aussieht).

Die über CPU mit PCIe versorgten Karten konnte ich aber mit ESXi 6.7 U3 ohne Probleme durchreichen, getestet mit einem HBA (Broadcom HBA 9400 8i8e), einer Netzwerkkarte (Intel XL710 QDA2) und einer GPU (Radeon Pro WX 4100).
 
Nop, geht auch bei 2T nicht!
 
Habe ja zwei der X470D4Us (eins im (relativen) Dauereinsatz, das bis auf die bekannten BIOS-Bugs in Ordnung ist und eins eigentlich zum Experimentieren gedacht, das gerade RMAt wird, da es das Image des IPMI-Chips immer wieder zerstört hat (etwa einmal im Monat), auch neue Flash-Chips) - Wenn das zweite wieder da ist, kann ich mal sonstigen PCIe-Firlefanz testen, den ich rumliegen habe, eine TV-Karte ist allerdings nicht dabei.

Und ja, Treiber brauchte ich für keine der genannten Karten in ESXi, die Intel-Karte kann z. B: SR-IOV, was sich problemlos aktivieren ließ.
 
kaufe mal neue SATA3 taugliche Kabel. Hab ich auch mal das Problem gehabt. Mit neuen Kabeln war das bei mir behoben
 
I/O-Fehler hatte ich bei dem Board noch nicht daher gehe ich eher von einem zufälligen Port-Defekt aus.

Bei einem X99-PCH-SATA hatte ich die aber auch mal an einer defekten Icy Box-Backplane, hier könnte man noch suchen, falls du die Platten nicht direkt anschließt.
 
Hmmm, vielleicht auch BIOs-Bugs was Hotplug-Unterstützung angeht? Eventuell dem ASRock Rack-Support melden, wenn man sich nicht beschwert, kann es nicht besser werden ;)
 
Hot Swap ist EIGENTLICH Bestandteil der SATA Spezifikation, d.h. EIGENTLICH sollte das jeder SATA-Controller können. Das muss aber zusätzlich auch das OS unterstützen.

Manchmal muss man die Funktionalität auch noch explizit im BIOS aktivieren.

EDIT: eSATA ist nur ne andere Buchse, elektrisch/technisch 1:1 wie die normalen SATA-Anschlüsse.
 
Da ich nach wie vor früher oder später Probleme mit einer HDD bekomme (I/O-Error) und ich meine mich zu erinnern, dass es früher die andere von den zwei Platten war, liegt es vermutlich an den SATA-Ports/Traces auf dem X470D4U2-2T. Wenn ich beispielsweise an den roten SATA-Port eine HDD anklemme, bootet das Board überhaupt nicht durch.
Ich werd mich jetzt also daran machen zwei funktionstüchtige SATA-Ports von den sechs verbauten im Ausschlussverfahren zu finden, da ich nicht mehr als zwei brauche. Wünscht mir Glück. Insgesamt kann ich das Board nicht empfehlen.

Hmm Kumpel hat mit diesem Board 0 Probleme, auch nicht mit Hot-Plug. Alles i.o. :unsure:
 
HotPlug erlaubt das auswerfen in Windows, aber nicht das (wieder-)anschließen. In einigen Boards (BIOS) kann man aber SATA-Ports explizit als eSATA konfigurieren, dann klappt auch das anschließen ohne weiteres.
Wenn das Erkennen nach dem Wiederanschließen nicht klappt, dürfte LPM aktiv sein, was eigentlich deaktiviert sein sollte, wenn die Ports im BIOS entsprechend eingestellt sind. Hier gibt es entweder die Einstellung für Extern oder Hot-Swap oder sogar beides, aber was genau welches Board dann bei welcher Einstellung ändert, weiß ich natürlich auch nicht. Wichtig ist aber, dass dies dafür sorgen soll, dass LPM für diesen SATA Port deaktiviert ist, denn wenn die SATA Lane um Energiesparen deaktiviert wird, dann kann natürlich nicht mehr erkannt werden, wenn plötzlich wieder ein Gerät dran hängt.
 
Was für ein Reg File? Vor Jahren gab es solche die dies beim Intel Treiber deaktiviert haben, aber die können hier natürlich nicht funktionieren. Hier ein Link zu einer Anleitung wie man LPM deaktiviert und auch wie wie die Einstellungen dafür auch bei Windows im Ausgewogenen Energiesparplan sichtbar macht, denn dazu muss erst eine Änderung in der Registry gemacht werden, sonst die entsprechenden Einstellung nämlich im Ausgewogenen Energiesparplan nicht sichtbar. Das eigentliche Deaktivieren passiert aber erst, wenn man "AHCI Link Power Managment" auf Active stellt, dann bleibt der SATA Link aktiv und LPM ist deaktiviert.
 
Das alleine ändert aber nichts an der LPM Einstellung, es gibt nur die Option zum Einstellen im Ausgewogenen Energiesparplan frei, dort muss man dann LPM erst noch deaktivieren.
 
Ich muss mich hier mal einklinken, auch wenns nicht direkt um ESXi geht, aber das MB.
Habe gerade auf die neuste BIOS-Version (3.30) geupdated um dann festzustellen dass PCI-Passthrough broken ist -.- (https://community.amd.com/thread/241650)
Ich nehme an das Problem ist unabhaengig von OS? schon jmd ne Loesung ausser Downgrade?
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh