NEWS

Graviton4 und Trainium2

Amazon präsentiert seine nächsten Custom-Chips

Portrait des Authors


Amazon präsentiert seine nächsten Custom-Chips
0

Werbung

In Form des Graviton4 und Trainium2 hat Amazon Web Services oder kurz AWS auf der hauseigenen re:Invent-Konferenz die nächste Generation seiner Custom-Chips für die eigenen Rechenzentren vorgestellt. Insgesamt hat man laut Amazon bereits mehr als zwei Millionen Graviton-Prozessoren der verfügbaren drei Generationen fertigen lassen. Nun kommt eine vierte hinzu.

Der Graviton4 bietet eine um 30 % höhere Rechenleistung, 50 % mehr Kerne und eine um 75 % höhere Speicherbandbreite. Bisher hat sich Amazon noch nicht zu den Details des Designs geäußert. Der Graviton3 basierte auf dem Neoverse-V1-Design mit 64 Kernen. Beim Graviton sollten es demnach nun 96 Kerne sein und vermutlich kommt genau wie bei NVIDIAs Grace-CPU-Superchip das Neoverse-V2-Design zum Einsatz. In Form der EC2-R8g-Instanzen wird das erste Angebot mit dem Graviton4 in Kürze verfügbar sein.

Ebenfalls angekündigt wird eine zweite Generation des auf das Training ausgelegten Trainium-Chips. Der Trainium2 soll um den Faktor vier schneller sein als sein Vorgänger. Jeder der neuen EC2-Trn2-Intanzen ist mit 16 Trainium2-Chips ausgestattet. In zukünftigen EC2-UltraClustern sollen bald hunderttausende dieser Chips zusammenarbeiten. Diese Instanzen, bzw. der Trainium2 ist auf das Training großer Large Language Models ausgelegt (LLM). Mit den eigenen Chips zielt Amazon auf eine besonders hohe Effizienz für diese Aufgaben ab und macht sich zudem von den Beschleunigern externer Anbieter unabhängiger. Man betont jedoch, dass man seine Instanzen weiterhin mit den GPUs von AMD und NVIDIA ausstatten werde.

Beide Chips lässt Amazon bei TSMC fertigen. Genauere technische Details über das Fertigungsverfahren, Ausstattung mit HBM oder Interconnect-Bandbreiten gibt es bislang noch nicht.

Quellen und weitere Links KOMMENTARE (0)