A cumpagnia di chip guidata da Jim Keller Tenstorrent hà liberatu u so processore Wormhole di prossima generazione per i carichi di travagliu AI, chì aspetta di offre un bonu rendimentu à un prezzu accessibile.A cumpagnia offre attualmente duie carte PCIe supplementari chì ponu accoglie unu o dui processori Wormhole, è ancu stazioni di travagliu TT-LoudBox è TT-QuietBox per i sviluppatori di software. Tutti l'annunzii d'oghje sò destinati à i sviluppatori, micca quelli chì utilizanu schede Wormhole per carichi di travagliu cummerciale.
"Hè sempre gratificante di mette più di i nostri prudutti in mani di sviluppatori. Rilascia i sistemi di sviluppu chì utilizanu e nostre carte Wormhole ™ ponu aiutà i sviluppatori à scala è à sviluppà un software AI multi-chip ", hà dettu Jim Keller, CEO di Tenstorrent.In più di stu lanciu, simu entusiasti di vede u prugressu chì facemu cù a cinta è l'accensione di u nostru pruduttu di seconda generazione, Blackhole ".
Ogni processore Wormhole cuntene 72 nuclei Tensix (cinque di i quali supportanu core RISC-V in diversi formati di dati) è 108 MB di SRAM, chì furnisce 262 FP8 TFLOPS à 1 GHz cù una putenza di cuncepimentu termale di 160W. A carta Wormhole n150 unicu chip hè dotata di memoria video GDDR6 12 GB è hà una larghezza di banda di 288 GB / s.
I processori Wormhole furniscenu una scalabilità flessibile per risponde à e diverse esigenze di carichi di travagliu. In una cunfigurazione standard di stazione di travagliu cù quattru carte Wormhole n300, i processori ponu esse cumminati in una sola unità chì appare in u software cum'è una rete di core Tensix unificata è larga. Questa cunfigurazione permette à l'acceleratore di gestisce a stessa carica di travagliu, divisu trà quattru sviluppatori o eseguisce finu à ottu mudelli AI differenti simultaneamente. Una caratteristica chjave di sta scalabilità hè chì pò esse eseguitu in u locu senza a necessità di virtualizazione. In un ambiente di centru di dati, i prucessori Wormhole utilizanu PCIe per espansione in a macchina, o Ethernet per espansione esterna.
In termini di prestazioni, a carta Wormhole n150 di Tenstorrent single-chip (72 core Tensix, frequenza 1 GHz, 108 MB SRAM, 12 GB GDDR6, larghezza di banda 288 GB / s) hà ottenutu 262 FP8 TFLOPS à 160W, mentre chì u dual-chip Wormhole n. (128 core Tensix, frequenza 1 GHz, 192 MB SRAM, 24 GB GDDR6 aggregato, larghezza di banda 576 GB/s) offre fino a 466 FP8 TFLOPS a 300 W.
Per mette 300W di 466 FP8 TFLOPS in u cuntestu, l'avemu paragunatu cù ciò chì u capu di u mercatu AI Nvidia offre à questa putenza di cuncepimentu termale. L'A100 di Nvidia ùn sustene micca FP8, ma supporta INT8, cù un rendimentu di punta di 624 TOPS (1,248 TOPS quandu sparse). In paragone, l'H100 di Nvidia supporta FP8 è righjunghji un rendimentu di punta di 1,670 TFLOPS à 300W (3,341 TFLOPS à sparse), chì hè significativamente sfarente di Tenstorrent's Wormhole n300.
Tuttavia, ci hè un prublema maiò. Tenstorrent's Wormhole n150 vende per $ 999, mentre chì u n300 vende per $ 1,399. In paragone, una sola carta grafica Nvidia H100 vende per $ 30,000, secondu a quantità. Di sicuru, ùn sapemu micca se quattru o ottu processori Wormhole ponu in realtà furnisce u rendiment di un unicu H300, ma i so TDP sò 600W è 1200W rispettivamente.
In più di e carte, Tenstorrent offre stazioni di travagliu pre-custruite per i sviluppatori, cumprese 4 carte n300 in u TT-LoudBox più assequible basatu in Xeon cun cooling attivu, è l'avanzata TT-QuietBox cù Xiaolong) basata in EPYC) funzione di raffreddamentu liquidu).
Tempu di post: Jul-29-2024