Tenstorrent Dev Day: Blackhole mit neuen RISC-V-Kernen können bestellt werden

[HWL News Bot]

Auf seinem Dev Day hat Tenstorrent die nächste Generation seiner RISC-V-Beschleuniger vorgestellt, die auch ab sofort bestellt werden können. Die letzten Div-Kits mit der vorherigen Generation (Wormhole) können in einer luft- und wassergekühlten Version seit Mitte des vergangenen Jahres vorbestellt werden.
... weiterlesen

 

[Crusha]

Wurden diese Karten irgendwo mal mit ML Modelle wie Ollama getestet?

 

[Aragonion]

Wenn Ich Mir den Preis so anschaue von Dingen wie Mellanox ConnectX-7 haben Wir hier ja eine GPU PLUS Netzwerkkarten Dual 400 Gbit/s Option für weniger mit 1300 Euro OVP

Ist zwar nicht der Primäre Sinn aber währe Theoretisch halb so deuer und für alle anderen auch noch was spannendes 4 small budge

https://www.amazon.de/Mikrotik-CCR2004-1G-2XS-PCIe-Adap-2xSFP28-1xGbE/dp/B0BCFH62D4?__mk_de_DE=%C3%85M%C3%85%C5%BD%C3%95%C3%91&crid=1G998AL5KZIWF&dib=eyJ2IjoiMSJ9.eWrLJLjRZKx2npCAOSWFaWsewM-7HTy7NaV3FMEhBw8P-SQoqHSgtL63l4c3HIUhJNVtLiWEhDmtdWAsi-QCOtWrTX6t9x9k3tpOPDB3hHBduGTUfwibVBX5_KWC_BZPtbAJf4e8v6JcoDhXHtDtE_yfyjL3XcnQF3wMZMQgnWaYMU9Fb28MSI6LqtdlwGEG-Sz-NICcMha2KaoHQPSsi5gIu5unSSi_1zhuGPT0SUQ.wg04wiwt_vttexnPDpfkJP6uNi6tUOh8SBVUotczSuQ&dib_tag=se&keywords=MikroTik+CCR2004-1G-2XS&qid=1742883118&sprefix=mikrotik+ccr2004-1g-2xs%2Caps%2C152&sr=8-2

 

[YCbCr]

Wurden diese Karten irgendwo mal mit ML Modelle wie Ollama getestet?

Upsteam Ollama / llama.cpp haben (noch) keinen direkten Support für die Tenstorrent Beschleuniger (siehe hier für WIP).

Im README der nativen TT-NN Bibliothek finden sich Benchmark-Ergebnisse der Wormhole Vorgängergeneration für einige LLMs, die auch von Ollama unterstützt werden.