Gaudi
-
Erstmals echtes Silizium zu sehen: Intel zeigt den Gaudi-3-Beschleuniger
Auf dem gestrigen "AI Everywhere"-Event präsentierte Intel sein Angebot an AI-Hardware für das Datacenter und das Notebook-Segment. Letzter Teil der Präsentation in New York sollte das sein, wo aktuell das große Geschäft gemacht wird: Dedizierte AI-Beschleuniger für das Datacenter. Im kommenden Jahr soll der Gaudi-3-Beschleuniger auf den Markt kommen, dessen Compute-Tiles in 5 nm bei TSMC gefertigt wird. Darüber hinaus ist noch recht... [mehr] -
MLPerf-Benchmarks: NVIDIA mit über 10.000 GPUs, Google TPU-v5e und Gaudi2 mit guten Ergebnissen
Die MLCommons hat eine weitere Runde Ergebnisse im Bereich Datacenter-Training und HPC vorgestellt. Interessant sind dabei die Trainings-Ergebnisse, denn hier taucht einiges an Hardware erstmals auf bzw. skaliert mit deutlich mehr Beschleunigern, als dies bei den bisherigen Ergebnissen der Fall war. NVIDIA und Azure präsentieren Ergebnisse mit 1.344 Knoten. In seiner Cloud-Instanz setzt Azure dazu pro Knoten auf jeweils zwei Intel Xeon... [mehr] -
MLPerf Training 3.0: Mehr Gaudi und vor allem mehr H100
Die ML Commons haben neue Ergebnisse der MLPerf-Training-Benchmarks veröffentlicht. Im Trainingsbereich gibt es einen Versionssprung auf die Version 3.0 inklusive neuer LLM-Benchmarks. Auch die im Edge-Segment wichtigen Tiny-Benchmarks, die auf ein besonders energieeffizientes Inferencing ausgelegt sind, wurden aktualisiert. Die Benchmarksergebnisse sind für eine eventuelle Auswertung direkt bei der ML Commons verfügbar (MLPerf Training... [mehr] -
Intel/Habana Labs AI-Chip Gaudi HL2080 zeigt sich erstmals
Bisher ist zur nächsten Generation der AI-Chips aus dem Hause Habana Labs wenig bekannt. Ende 2019 kaufte Intel das israelische Unternehmen Habana Labs für 2 Milliarden US-Dollar. Die Gaudi- und Goya-Chips setzen auf spezielle Tensor Processing Cores und sind auf das Training- und Inferencing von AI-Netzwerken ausgelegt. Der kommerzielle Einsatz der ersten Gaudi-Generation verzögerte sich allerdings. Ab 2020 sollen erste Kunden... [mehr] -
Das Netzwerk als Rückgrat: Habana Labs' Gaudi liefert 1 TBit/s an Anbindung
Bis Anfang diesen Jahres fuhr Intel zweigleisig, wenn es um dedizierte Hardware für das Inferencing und Training von Deep-Learning-Netzwerken ging. Aber der Chipgigant hat Nervana aufs Abstellgleis geschickt und sich für Habana Labs entschieden. Die hier bereits begonnen Entwicklung von Hard- und Software soll in den kommenden Jahren den Pfad zu dedizierten AI-Beschleunigern ebnen. Mit den genaueren Details zum Goya-Chip für das... [mehr] -
AI-Abteilung dichtgemacht: Intel schickt Nervana ins Nirvana (Update)
Intel schließt eine seiner Abteilungen für die Entwicklung von AI-Hardware, die 2016 als externes Unternehmen Nervana übernommen wurde und eingegliedert werden sollte. Doch die Entwicklung der Neural Network Prozessoren (NNPs) soll eingestellt und der Fokus auf die Weiterentwicklung der von Habana Labs entwickelten Technologien gerückt werden. Dies berichtet Forbes. Ende 2019 kaufte Intel das israelische Unternehmen Habana... [mehr]