NVIDIA Tesla T4 als Inferencing-Beschleuniger mit 320 Tensor Cores

[HWL News Bot]

Auf der GPU Technology Conference in Japan hat NVIDIA einen reinen Inferencing-Beschleuniger vorgestellt. Wie die bisherigen Inferencing-Beschleuniger, verwendet NVIDIA auch hier einen abgespeckten Chip mit möglichst viel Rechenleistung bei weniger komplexen Rechenoperationen – FP16, INT8 und INT4.Laut NVIDIA besitzt die Tesla T4 320 Tensor Cores und 2.560 Shadereinheiten. Wie der Modellname schon verrät, verwendet NVIDIA hier einen Chip mit Turing-Architektur. Nach der Vorstellung der ... weiterlesen

 

[BessereHälfte]

Die Tesla T4 ist unter anderem in der Lage bis zu 38 FullHD-Videostreams auszuwerten.

Pro Woche, oder was ist das für eine Angabe?
Und, was sind die realen Aufgaben solcher Karten, wenn sie je 38 Videothreads auswerten?

Diese wichtige Information fehlt irgendwie in der News

 

[Don]

Pro Woche, oder was ist das für eine Angabe?
Und, was sind die realen Aufgaben solcher Karten, wenn sie je 38 Videothreads auswerten?

Diese wichtige Information fehlt irgendwie in der News

Danke für den Hinweis: Wir haben den Text entsprechend ergänzt:

Die Tesla T4 ist unter anderem in der Lage bis zu 38 FullHD-Videostreams in Echtzeit auszuwerten. Dies entspricht der doppelten Menge einer Tesla P4.

 

[fdsonne]

8,1TFlop/s bei 75W? Das ist mal echt ne Hausnummer... Das ist 1080 non TI Shaderperformance Niveau bei nichtmal halber Leistungsaufnahme

 

[Tech Enthusiast]

Mehr spezialisierte Hardware. Nice.
Nvidia scheint den RnD Aufwand sehr gut auf verschiedene Märkte auslagern zu können. Sie haben mehr Kundenkreise und die Kunden haben eine größere Chance, genau das zu finden was sie brauchen.

Etwas schade, dass es hier nicht mehr, sondern weniger Tensor Cores gibt als auf der RTX 2080 (ti), aber dafür ist wohl dann der Preis auch entsprechend gering, hoffentlich. Nur wer kauft so einen Beschleuniger dann? Leute die Tensor beruflich nutzen können sind ja im Allgemeinen nicht gerade arm, bzw. können die Kosten eh von der Steuer / dem Gewinn absetzen. Wieso also eine abgespeckte Version kaufen? Hmm. Evtl. gibt es Anwendungsbereiche bei denen die Leistungsaufnahme ein Thema ist.

 

[Ycon]

Etwas steuerlich absetzen zu können, heißt nicht, dass man selbiges gratis erhält
Ob jemand für das gleiche Ergebnis XYZ Euro bezahlt oder 2x XYZ, wäre schon ein guter Unterschied.

 

[Tech Enthusiast]

Etwas steuerlich absetzen zu können, heißt nicht, dass man selbiges gratis erhält
Ob jemand für das gleiche Ergebnis XYZ Euro bezahlt oder 2x XYZ, wäre schon ein guter Unterschied.

Es ist sehr nah dran an gratis. Klar, nicht wortwörtlich, aber zieh mal 40% vom Preis ab, dann sieht das schon ganz anders aus mit P/L.
Zumal Unternehmen alles versuchen um den Gewinn zu drücken. Wird immer das Teuerste gekauft. Nicht das mich die DGX Systeme stören würden in der Arbeit, aber da merkt man schon wie wenig die Kaufsumme den Kauf beeinflusst in einem Unternehmen.
"Kostet 250.000? Nagut. Nehmen wir 2x."

Darum eben die Frage was diese kleinen Dinger an UseCases abdecken. Hat da jemand ein Beispiel aus der Praxis? Muss ja irgendwas sein, dass zwar AI lastig ist, aber trotzdem Energieaufname und Preis über Leistung stellt.
Bei normalen Firmenanwendungen ja nicht der Fall. Da steht doch immer irgendein dicker Server im Hintergrund für sowas.

 

[fideliovienna]

Hmm. Evtl. gibt es Anwendungsbereiche bei denen die Leistungsaufnahme ein Thema ist.

Ich würde sagen in jedem grösseren Rechenzentrum ist Effizienz, also Performance / Leistungsaufnahme ein sehr wichtiger Faktor.
Die ganzen Cloud-Anbieter werden die Karte gerne kaufen

 

[Tech Enthusiast]

Aber Cloud Anbieter brauchen doch enorme Mengen an Performance. So eine low power karte mit den paar TFlops sind doch da nur in Tausenderpacks überhaupt relevant. So ein DGX hat 2 petaflops und paar zerquetschte. Ich muss mal schauen wieviel Saft der aus der Wand zieht. Ist definitiv mehr als ne normale Steckdose hergibt, aber halt auch 2 petaflops.

 

[BessereHälfte]

Na sicher. NV macht jetzt Produkte für die es keinen Markt gibt. Sowas muß man bringen, damit eine Gelegenheit entsteht, die Tollheit der DGX erwähnen zu können.

Der Botschafter gibt aktuell alles was geht

 

[Holzmann]

But can it run Crysis?

 

[Tech Enthusiast]

Na sicher. NV macht jetzt Produkte für die es keinen Markt gibt. Sowas muß man bringen, damit eine Gelegenheit entsteht, die Tollheit der DGX erwähnen zu können.

Der Botschafter gibt aktuell alles was geht

Jeden Tag die Quote an nutzlosem getrolle, muss sein, oder?
Nu bin ich also auch schon Botschafter wenn ich NVidia hinterfrage und mich dafür interessiere welcher Usecase mit so einer Karte abgedeckt wird. Die Logik ist genial!

Du scheinst echt traurig zu sein, dass Dein favorisiertes Team aktuell nicht mehr mitspielt.
Aber keine Sorge, nächstes Jahr darfst Du mich dann als AMD Botschafter hinstellen, wenn ich mich für Navi und dessen Möglichkeiten interessiere. Oder Zen2, der ein heißer Kandidat für mein CPU Upgrade wird.
Hoffe Deine kleine Fabelwelt leidet dann nicht zu sehr darunter.

Außerdem:
Nvidia hat das Produkt nur auf den Markt gebracht, damit ich hier im Forum auf ein Produkt hinweise das im Preissegment eines kompletten Hauses ist. Da ist die Zielgruppe ja definitiv hier im Forum zu finden!
Echt jetzt, komm mal runter von dem nervigen Trip den Du da hast. Wenn Du nichts beizutragen hast, dann lass es halt einfach.

 

[BessereHälfte]

Du bist nicht "schon" Botschafter. Das warst du immer.

Außerdem:
Nvidia hat das Produkt nur auf den Markt gebracht, damit ich hier im Forum auf ein Produkt hinweise das im Preissegment eines kompletten Hauses ist.

Das wohl kaum, aber du hast dir diese schlechte Gelegenheit trotzdem nicht durch die Finger flutschen lassen.
Du findest eben, du bist ein Pro

Ich sehe Hardware pragmatisch und hab daher keine "favorite Teams". Trotzdem bleib ich interessiert und was mir dabei schwer auf den Geist geht sind außer stumpfsinnigen Fanboys, eben die Botschafter. Sie verlangsamen mit ihrem unterschwelligen Gaga meine pragmatische Erkenntnisgewinnung. Deswegen hast du auf Luxx aktuell auch nicht ganz so leicht wie woanders. Macht aber nichts. Kannst immerhin behaupten, du arbeitest hart...