A cumpagnia di chip Tenstorrent, guidata da Jim Keller, hà publicatu u so processore Wormhole di prossima generazione per i carichi di travagliu AI, chì prevede di offre bone prestazioni à un prezzu accessibile.A cumpagnia offre attualmente duie carte PCIe supplementari chì ponu accoglie unu o dui processori Wormhole, è ancu stazioni di travagliu TT-LoudBox è TT-QuietBox per i sviluppatori di software. Tutti l'annunzii d'oghje sò destinati à i sviluppatori, micca à quelli chì utilizanu schede Wormhole per carichi di travagliu cummerciali.
«Hè sempre gratificante di mette più di i nostri prudutti in manu à i sviluppatori. I sistemi di sviluppu di liberazione chì utilizanu e nostre carte Wormhole™ ponu aiutà i sviluppatori à scalà è sviluppà software di IA multi-chip», hà dettu Jim Keller, CEO di Tenstorrent.In più di stu lanciu, simu entusiasti di vede i progressi chì facemu cù a messa in opera è a messa in funzione di u nostru pruduttu di seconda generazione, Blackhole.
Ogni processore Wormhole cuntene 72 core Tensix (cinque di i quali supportanu i core RISC-V in diversi furmati di dati) è 108 MB di SRAM, chì furnisce 262 FP8 TFLOPS à 1 GHz cù una putenza di cuncepimentu termicu di 160 W. A carta Wormhole n150 à chip unicu hè dotata di 12 GB di memoria video GDDR6 è hà una larghezza di banda di 288 GB/s.
I processori Wormhole furniscenu una scalabilità flessibile per risponde à i diversi bisogni di i carichi di travagliu. In una cunfigurazione standard di stazione di travagliu cù quattru carte Wormhole n300, i processori ponu esse cumminati in una sola unità chì appare in u software cum'è una rete centrale Tensix unificata è larga. Sta cunfigurazione permette à l'acceleratore di gestisce u listessu caricu di travagliu, divisu trà quattru sviluppatori o di eseguisce finu à ottu mudelli IA diversi simultaneamente. Una caratteristica chjave di sta scalabilità hè chì pò esse eseguita lucalmente senza bisognu di virtualizazione. In un ambiente di centru dati, i processori Wormhole utilizanu PCIe per l'espansione in a macchina, o Ethernet per l'espansione esterna.
In termini di prestazioni, a carta Wormhole n150 à chip unicu di Tenstorrent (72 core Tensix, frequenza 1 GHz, 108 MB SRAM, 12 GB GDDR6, larghezza di banda 288 GB/s) hà righjuntu 262 FP8 TFLOPS à 160W, mentre chì a carta Wormhole n300 à doppiu chip (128 core Tensix, frequenza 1 GHz, 192 MB SRAM, 24 GB GDDR6 aggregati, larghezza di banda 576 GB/s) furnisce finu à 466 FP8 TFLOPS à 300W.
Per mette in cuntestu 300W di 466 TFLOPS FP8, u paraguneremu à ciò chì u capu di u mercatu di l'IA Nvidia offre à sta putenza di cuncepimentu termicu. L'A100 di Nvidia ùn supporta micca FP8, ma supporta INT8, cù prestazioni massime di 624 TOPS (1.248 TOPS quandu sparse). In paragone, l'H100 di Nvidia supporta FP8 è righjunghje prestazioni massime di 1.670 TFLOPS à 300W (3.341 TFLOPS à sparse), chì hè significativamente differente da u Wormhole n300 di Tenstorrent.
Tuttavia, ci hè un prublema maiò. U Wormhole n150 di Tenstorrent si vende per $ 999, mentre chì l'n300 si vende per $ 1.399. In paragone, una sola carta grafica Nvidia H100 si vende per $ 30.000, secondu a quantità. Benintesa, ùn sapemu micca se quattru o ottu processori Wormhole ponu in realtà furnisce e prestazioni di un solu H300, ma i so TDP sò rispettivamente 600W è 1200W.
In più di e carte, Tenstorrent offre stazioni di travagliu predefinite per i sviluppatori, cumprese 4 carte n300 in u TT-LoudBox basatu annantu à Xeon più accessibile cù raffreddamentu attivu, è u TT-QuietBox avanzatu cù funzione di raffreddamentu à liquidu Xiaolong) basatu annantu à EPYC.
Data di publicazione: 29 di lugliu di u 2024