MI250 gegen A100: MosaicML zeigt Konkurrenten fast auf Augenhöhe

[HWL News Bot]

Vor einigen Wochen machte das Unternehmen MosaicML auf sich aufmerksam, da man vortrainierte MPT-7B-Modelle als Open-Source veröffentlichte und somit der LLM-Forschung (Large Language Model) einen gewissen Vortrieb geben wollte. Bei MosaicML hat man sich darauf spezialisiert, das Software-Ökosystem für AI-Systeme zu optimieren, denn über eine optimierte Software lassen sich große Leistungssprünge im Training erreichen – ein um 30 % beschleunigtes Training bei gleicher Hardware ist bei einer solchen Optimierung keine Seltenheit. Man macht hier also Werbung in eigener Sache und gibt dennoch auch einen interessanten Einblick in den Stand der Dinge.
... weiterlesen