Ryzen 3700X mit ASRock X470D4U als ESXi-Virtualisierungshost

Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Moin,
ich bin gerade dabei, mir die Teile für ein ähnliches System auf Basis dieses Mainboards herauszusuchen, und unter anderem beim RAM und CPU-Kühlung noch nicht entschieden...

Bis gestern gab es bei Geizhals gelistet nämlich ein 32GB DDR4-3200 Modul von Crucial - das nicht auf der QVL-Liste steht, drum hatte ich bei Asrock mal angefragt, ob das laufe (bisher keine Rückmeldung). Da es keinen Anbieter mehr gab, hatte ich dann Google bemüht, und herausgefunden, dass sich Crucial im Serverbereich nun Micron nennt, und es eine Übersetzungstabelle der Teilenummern gibt:
https://eshop.asbis.cz/images/docs/Micron-DRAM.pdf
Und in der Tat gibt es das gleiche Modul unter neuer Nummer MTA18ASF4G72AZ-3G2B1 immerhin bei zwei Anbietern. Auch sind in der Tabelle weitere interessante Module, z.b. Low Profile Module, die aber natürlich alle nicht auf der QVL sind. Also tendiere ich jetzt doch wieder zum Samsung M391A4G43MB1-CTDQ... Wobei ich die mit dem Q am Ende nicht direkt finden konnte....

Zum CPU-Lüfter: einen BeQuiet Dark Rock Pro 4 (BK022) kann man da bestimmt nicht montieren, mit Gebläse Richtung Anschlussplatte.
Gibt es außer dem AMD-Lüfter noch andere bekannt montierbare Modelle, die auch das Nutzen des RAM-Slots nahe des Prozessors erlauben?

Viele Grüße
 
Die Module sind doch allesamt nicht interessant im vgl. zum Samsung, warum experimentieren?
Wie wäre es denn mit einer kleinen AIO, da hast bestimmt kein Platzproblem. Ansonsten spricht nix gegen die Boxed Kühler.
 
Der Buzzer geht mir auf den Zeiger.... Jedesmal wenn ich den ESXi runterfahre fängt das Board an zu Piepsen (durchgehend). hat das von euch jemand?
 
Ne nix und das war vor ein paar Wochen noch nicht so. Komisch das ganze....

Wenige so darüber nachdenken vielleicht ist das gar nicht das Board sondern der Controller den ich da drauf laufen habe ..

Oder ... oder....jetzt mal was zum lachen:
Vielleicht ist dem Teil zu warm. Ich muss die Hardware mal in den Keller verfrachten. Der Sommer kommt.... da wo er jetzt steht ist es zu warm :/

Dafür hat der Keller aber andere Probleme.... der ist leicht feucht und da ist ne Gas und ne Wasserleitung ... nicht sicher ob ich den da stehen haben will/ sollte

Ich glaub ich brauch langsam mal ein richtiges Rack....

Sidenote:
Neuste Anschaffung

20200625_172107.jpg


20200625_214750.jpg

Der läuft im mittleren PCIe slot. Im Moment sind da 2 SSDs drin. 8x8x im BIOS eingestellt. ESXi erkennt diesen und die beiden SSDs:)

Ich Denke mal das ich mir ein 4x NVMe Enclosure von icybox zulegen werde und die 4x m.2 auf den passenden Anschluss umrüste. Da gibt's bestimmt Adapter fuer... Such such...

Und später kommen dann da professionelle SSDs hinein.

Ja Geschwindigkeit wird wohl nicht so toll sein aber juckt mich nicht. Alles was schneller als spinning rust ist und gut funktioniert wird genommen!

So dann hab ich noch einen 8x frei für ne Grafikkarte aber wo bekommt man denn bitte etwas Potentes in Single Slot Design.

Das beste was ich gefunden hab war ne KFA^2 1070 Katana die man nicht mehr kaufen kann oder ne 1650 ....

Oder eine mit WaKü ?
 
Zuletzt bearbeitet:
Denke mal das ich mir ein 4x NVMe Enclosure von icybox zulegen werde

Habe drei Stück davon in verschiedenen Systemen. Habe als Test auch mal PCIe->M.2->U.2->Icy Dock betrieben, gab keine PCI Express-Fehler o. ä. Je nach verwendeten Laufwerken sollte aber die Temperatur (unter Schreiblast) im Auge behalten werden.
So dann hab ich noch einen 8x frei für ne Grafikkarte aber wo bekommt man denn bitte etwas Potentes in Single Slot Design

Eine W5500 dürfte mit das potenteste im Lukü-Single Slot-Design sein:

Eine Quadro RTX 4000 gäbe es für deutlich mehr Geld auch noch.
 
Wenn die im ESXi nicht auftauchen kann man die auch nicht fuer pass-through freischalten oder?
 
Fräge, kann man mit vSphere oder ähnlichem beliebige PCIe Device durchreichen oder müssen die Treiber für VMware haben?
Folgender Artikel gibt einen sehr guten Überblick: https://kb.vmware.com/s/article/2142307

Extra Treiber auf der VMware-Seite benötigt man nicht. Aber die Hardware muss bestimmte Anforderungen erfüllen, die in dem Artikel aufgezählt sind.

Zentral wichtig für das Durchreichen von Hardware ist IOMMU: "The platform must have an IOMMU for DMA remapping any PCI Function which is to be assigned for VMDirectPath I/O. The IOMMU’s DMA re-mapping functionality is necessary in order for VMDirectPath I/O to work. DMA transactions sent by the passthrough PCI Function carry guest OS physical addresses which must be translated into host physical addresses by the IOMMU. "
 
@myBerg Das Brett ist ja bekannt. In der 7er Version scheint es auch etwas neues zu geben betreffend durchreichen.
Ich meinte nicht nur das Board. Dazu gibt's hier im Thread ja auch schon Infos zu IOMMU. Auch die Steckkarte/Controller/whatever muss mitspielen. In meinem Homeserver reiche ich eine Digital Devices TV-Karte durch. War bisher immer Problemlos (früher Xeon, jetzt Epyc). Nur wenn man die VM bei Umbauarbeiten o.ä. mal dergistriert, fällt die Karte raus. Dann muss ich die TV-Karte nach der VM-Registrierung neu für Passthrough aktivieren. Passthrough Häkchen setzen, aktivieren, booten, fertig. Den TV-Treiber installiert man dann ganz normal in der VM.
Die 7er nutze ich noch nicht. Neu scheint das "Dynamic DirectPath I/O" zu sein. Wenn das so funktioniert, wie ich mir das vorstelle, dann ist das schon cool. Ist aber auch ziemlich offtopic hier.
Duldet VMware die Nutzung im Homelab oder wird knallhart ausgesperrt betreffend vsphere?
Du bekommst eine ESXi Lizenz oder genauer "VMware vSphere Hypervisor Lizenz" mit gewissen Limits kostenfrei. Quasi als Teaser für die großen Versionen. Die Hypervisor-Software ist aber dieselbe wie bei den großen Lizenzen. Rock solid.
 
Ich glaub vsphere wird nur 60 Tage funktionieren. Dann brauchst du eine Lizenz die bekommst du umsonst im Portal. Hast dann die HA Features nicht. vCeneter Server geht ohne Lizenz auch nicht.

Alles ab 6.0.0 hat eine gui https://deine.ip.adresse.eintragen/ui

Ich bin mit meiner config (R5 2600, 64GB, 1x 240GB 1x 2TB NAME, LSI + 2x 8TB, 8x 240GB SSD, Adwits + 2x 250 GB NVMe) bei ca 130 W/h
Gemessen hab ich das mit ner tplink hs-110

Was verbracht der hyper v?

Mal überlegt ... der untere PCIe ist mit 4 Lanes angebunden. Ich bin jetzt kein High End Gamer und theoretisch könnte ich da ja auch eine Gpu reinstecken. Dann kann die auch einen dual slot Kühler haben den der kann einfach überhängen. Der Performaceverlust durch 4 Lanes ist zwar nicht optimal aber für das was ich zocke sollte das reichen. Imo zocke ich auf dem Hades Nuc mit der Vega GH und das was die ausgibt reicht mir.
 
Zuletzt bearbeitet:
Ist Win10 bei mir, verbraucht 80-90 Watt im Normal-idle. 2 NVME SSDs, 2 HDDs, zwei Realtec NIC, 2 10Gb-intel NICs onboard, eine TV-Karte.
Beitrag automatisch zusammengeführt:

Ich kann da auch nichts downloaden. Versuche es mit der 7er Version. Also irgendwie wird das nix. Wenn ich versuche den

VMware vSphere Hypervisor (ESXi ISO) image
2020-04-02 | 7.0.0 | 350.29 MB | iso

zu laden, passiert nix.


Nim den Internet Explorer. VMWare dl oder Portal ist der blanke horror. Bei mir scheitert es immer am capcha bei modernen Browsern
 
Sind bem ESXi-Free eigentlich irgendwelche Dinge zu PCIe-Passthrough oder SR-IOV beschnitten?
 
V6 kann ich laden, v7 immer noch nicht. Denke, die Seite ist nicht funktionstüchtig.
ja, ich kann mich da zurzeit auch nicht anmelden, heute vormittags hatte es aber noch geklappt. Es klappt aber, wenn ich bereits vorher eingeloggt bin.

Ansonsten muss man drauf achten, dass man auf der Seite zu 'VMware vSphere Hypervisor 7.0 Download Center' landet (wie gerade oben schon genannt) und nicht bei 'VMware vSphere Hypervisor (ESXi) 7.0.0 - Download Product'.
Bei der Ersten Seite müsste man sich dort einloggen oder ist es lieber schon, und besorgt sich auf dieser Seite die kostenlose Lizenz. Die wird dort angezeigt, und man kann dann herunterladen.
Bei der Zweitgenannten Seite gibt es zwei Varianten, aber die kann ich auch nicht laden. Praktischerweise gibt es in den weiteren Tabs Custom ISOs von OEMs, und da kann ich immerhin das von HPE laden. DIe scheint übrigens das letzte Update schon inkludiert zu haben.
 
Sind bem ESXi-Free eigentlich irgendwelche Dinge zu PCIe-Passthrough oder SR-IOV beschnitten?

Ich meine bei mir lief zumindest das pass-through bereits bevor ich eine Lizenz *hust* eingegeben habe
 
Mal eine kurze Frage. Der Server steht bei mir aktuell in einem Schrank. Vor allem jetzt bei höheren Temperaturen heizt sich das Ding schon ordentlich auf. Der Hochsommer kommt ja noch.
Die einzige Luftzufuhr ist das Loch auf der Rückseite.
Sollte ich mir Gedanken machen, da eventuell einen USB Lüfter anzubauen der die Luft rein zieht?

Ich möchte den Schrank noch mit Akustikmatten auskleiden, damit die Geräusche nahezu eliminiert werden. Dadurch wird es da drin nicht kühler. Das schallt da drin schon etwas und ich bin da empfindlich :)


IMG_5413 (1).jpg
 
Also bei mir im Wohnzimmer wird es selbst im Sideboard schon zu warm und da ist nur ein Receiver und ben kleiner Switch drin. Wurde VIEL ZU WARM.

Hab daher 3x140er Löcher in die Rückwand gemacht und entsprechende Lüfter dran: unten bläst einer rein, oben zwei raus. Jetzt gehts.
 
Also bei mir im Wohnzimmer wird es selbst im Sideboard schon zu warm und da ist nur ein Receiver und ben kleiner Switch drin. Wurde VIEL ZU WARM.

Hab daher 3x140er Löcher in die Rückwand gemacht und entsprechende Lüfter dran: unten bläst einer rein, oben zwei raus. Jetzt gehts.

Bei mir ist es ja nicht geschlossen.
Vorne ist immer offen. Nur die ansaugöffnung ist klein und der Schrank steht direkt an einer Wand.

Als 1cm Platz wo der Luft ansaugen kann.

Jetzt könnte es eben passieren, dass die Lüfter hinten die warme Luft, die vorne raus kommt, ansaugen, weil hinten nicht genug neue Luft nachströmt.

Habe aber wenig Ahnung davon.
Möchte nur nicht das der bei 40 grad im Sommer abkackt
 
Große langsam drehende Lüfter in einem Airflowcase sind oftmals leiser als irgendwelche Dämmversuche.Vor allem wenn man so wie hier die Temperaturen in die Höhe knallt.

Wie soll das funktionieren mit diesem einen kleinen Loch? Das Ding heizt sein Kabuff auf und grillt sich selbst. Da wird auch ein kleiner USB Puster nix bringen.

EDIT: Ok vorne ist offen, das hatte ich noch nicht gelesen. Für einen guten airflow brauchst du hinten dennoch mehr Platz. Und wenn vorne offen ist bringt dir die Dämmung ohnehin nicht sonderlich viel.
 
Große langsam drehende Lüfter in einem Airflowcase sind oftmals leiser als irgendwelche Dämmversuche.Vor allem wenn man so wie hier die Temperaturen in die Höhe knallt.

Die Dämmung ist nur dafür da, dass so manche störende Geräusche von CPU oder SSD nicht nach außen gelangen. Durch den Hohlraum werden manche Geräusche extrem verstärkt.

Und ich sitze quasi direkt neben dem Schrank beim arbeiten.

Habe mal ein kissen rein gelegt und es wurde gleich viel angenehmer. Deswegen die Dämmung.

Die Noctua Lüfter sind kaum hörbar. Größere passen sowieso nicht in das Gehäuse.

Ja, vorne ist offen, da kann die Luft zumindest gut raus, wenn ich hinten genug rein bekomme.
 
Du musst die virtualisierungs Features im BIOS anstellen.

Danach kannst du im ESXi unter Hardware den passthruogh der TV Karte aktivieren. Aufpassen du musst den ESXi nach Aktivierung einmal Neustarten


Meiner ist imo aus sonst würde ich dir n Screenshot schicken.
 
Sind bem ESXi-Free eigentlich irgendwelche Dinge zu PCIe-Passthrough oder SR-IOV beschnitten?
Ich denke nein. Bei PCIe-Passthrough bin ich mir da sehr sicher. SR-IOV habe ich noch nicht benutzt, aber es ist mir nicht bekannt, dass da etwas beschnitten ist. Als Überblick, was eingeschränkt ist, passt das hier ganz gut:
VMware vSphere 6.x – Free and Paid editions

Aber nochmal ganz allgemein. Generell versucht man das Durchreichen zu vermeiden. Das ist immer nur eine Notlösung, wenn eine Virtualisierung nicht möglich ist. Das Durchreichen bricht einige Virtualisierungs-Features (z.B. Snapshots). Daher sollte man das auch nur machen, wenn die Vorteile gegenüber den Nachteilen deutlich überwiegen. Und dann versuchen den "Schaden" zu begrenzen. Z.B. auf eine einfach aufzusetzende Single-Purpose-VM.

:btt2:

Btw, wie kriege ich denn nun meine TV-Karte durchgereicht bzw. wie kann ich es testen, ob es überhaupt geht.
Es gibt nur einen Windows Treiber.

Was muss alles im Bios aktiviert werden für passthrough?
Das sollte mit den BIOS-Settings bei einem Server-Board Out-Of-The-Box klappen. Die entsprechenden Virtualisierungs-Schalter für CPU/Chipsatz sollten schon aktiv sein. Die Optionen für IOMMU sind bei AMD in den NBIO Common Options. Bei mir (Epyc) steht da "Auto" und das tut. Ich musste da nichts spezielles konfigurieren.

In der Web-GUI sieht das bei mir so aus:
1593338943796.png

Das sollte bei dir ähnlich aussehen.
  • Häkchen setzen
  • "Passthrough umschalten"
  • Booten
Dann steht bei "Passthrough" "Aktiv" und du kannst das Gerät in eine VM einhängen. VM-Konfiguration > "Anderes Gerät hinzufügen" > "PCI-Gerät".
 
Das waren also meine ersten Gehversuche mit ESXi.
Um es kurz zu machen, Realtek NICs wurden nicht erkannt.
Für Realtek gibt es keine ESX-Treiber: https://www.vmware.com/resources/compatibility/search.php?deviceCategory=io
Eventuell kann man so etwas noch als PCI-Device an ein Betriebssystem durchreichen, dass etwas damit anfangen kann.
Aber genau diese NICs sind möglicherweise der Grund, warum ich von Hyper-V wechseln wollte, weil sich nämlich pfSense bei mir komisch verhält. Nur dafür aber Treiber in ESXi reinzuimpfen, in der Hoffnung, dass sich dadurch irgendwas verbessert, scheint mir zu wenig erfolgsversprechend.
Realtek / Hyper-V in Kombination mit pfSense klingt für mich nicht gut. Im Hyper-V vSwitch steckt - zumindest im NAT-Modus - eine DHCP-Magie drin, die man dem blöden Ding nicht abgewöhnen kann. Man kann nichtmal abfragen, welche Adressen das Teil vergeben hat.
Alles läuft momentan über Hyper-V bei mir. Hyper-V erlaubt mir auch FDE, weil Windows, usw. also alles schön einfach.
ESXi wollte einen extra datastorage nur für VMs. Meine Installations-SSD war "ihm" nicht gut genug.
ESX bringt ein eigenes, auf das Speichern von VMs spezialisiertes, Dateisystem namens VMFS mit. Für eine entsprechende Partition benötigt es freien Speicherplatz. Davon abgesehen ist es durchaus gängig den Hypervisor selbst getrennt vom VM-Speicher zu halten. Geht der Hypervisor, aus welchen Gründen auch immer kaputt, ist schnell ein neuer installiert und die VMs können wieder eingehängt werden.
 
Die Version 7 macht aus einer Disk die größer ist als 32 GB direkt eine Partition fuer VMs (vmdk)

Aber den ESXi pack ich immer auf einen guten Marken USB Stick. Das klappt seit Jahren sehr gut und ohne Ausfall (bisher) oder ne gute SD Karte wenn der Server dafuer n Sockel hat.

Bei ESXi 7 braucht man aber einen Stick der mindestens 8 GB hat.


Mal ne andere Frage: Warum brauchst du so viele NICs?
Bzw. Was macht deine pFsense so im Detail ?

Wieso muss der ESXi denn all diese NICs kennen?

Ich gucke grade nach pfSense how to's da ich ne ordentliche Firewall gebrauchen könnte.

Ich hab die non 10 GiB Version also nur 2 NICs und die Management NIC!

Wenn ich mir eine aufsetzen würde, würde ich die NICs bzw. die extra Karte an die VM weitergeben und das OS installieren. Dann hab ich hinten am Gehäuse x RJ45 die ich mit Switches erweitern kann.
Der ESXi weist dan von den x NICs nichts. Gibt auch keine vSwitches.

Ich kann aber der VM zusätzlich eine 10GiB vmnet3 hinzufügen, die dann als Verbindung von VM zum ESXi vSwitch herstellt.

Unter anderem kann man da doch noch etwas mit VLAN konfigurieren......

Ach die Möglichkeiten:d
 
Zuletzt bearbeitet:
Was schreibst du hier Bob ? Du hast das X470D4U2-2T ? Das hat zwei gute X550-AT2 10 Gbit Intel Nic und keine Realtek Lan Chips.
ESXI hat mit beiden Lan Ports keine Probleme, egal ob Version 6.7 oder 7.0. Oder hast du zu 2x 10 Gbit Nic noch eine weitere Lan Karte eingebaut ?
 
Zuletzt bearbeitet:
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh