Джим Келлер җитәкчелегендәге чип компаниясе Tenstorrent киләсе буын Wormhole процессорын AI эш авырлыгы өчен чыгарды, ул арзан бәядә яхшы эш тәкъдим итәр дип көтә.Хәзерге вакытта компания бер-ике Wormhole процессорын урнаштыра алырлык ике өстәмә PCIe картасы, шулай ук программа уйлап табучылар өчен TT-LoudBox һәм TT-QuietBox эш станцияләрен тәкъдим итә. Бүгенге игъланнарның барысы да коммерция эш йөкләре өчен Wormhole такталарын кулланучыларга түгел, ә уйлап табучыларга юнәлтелгән.
“Безнең продуктларның күбесен уйлап табучылар кулына алу һәрвакыт куанычлы. Безнең Wormhole ™ карталары ярдәмендә үсеш системаларын чыгару уйлап табучыларга күп чиплы AI программаларын масштабларга һәм үстерергә булыша ала ", диде Джен Келлер, Tenstorrent генераль директоры.Бу стартка өстәп, без икенче буын продуктыбыз Блэкхолның лентасы һәм көче белән алга китешебезне күреп шатланабыз. "
Eachәрбер Wormhole процессорында 72 Тенсикс үзәге бар (шуларның бишесе төрле мәгълүмат форматында RISC-V үзәкләрен тәэмин итә) һәм 108 МБ SRAM, 1 ГГцда 262 FP8 TFLOPS китереп 160Вт җылылык конструкция көче белән. Бер чиплы Wormhole n150 картасы 12 ГБ ГДДР6 видео хәтер белән җиһазландырылган һәм киңлеге 288 ГБ / с.
Вормол процессорлары эш йөкләренең төрле ихтыяҗларын канәгатьләндерү өчен сыгылучан масштаб бирәләр. Дүрт Wormhole n300 картасы булган стандарт эш станциясен урнаштыру процессорлары программа тәэминатында бердәм, киң Tensix үзәк челтәре булып күренгән бер берәмлеккә кушылырга мөмкин. Бу конфигурация тизләткечкә бер үк эш йөген эшләргә, дүрт эшкәртүчегә бүлергә яки берьюлы сигез төрле ЯИ моделен эшләргә мөмкинлек бирә. Бу масштаблылыкның төп үзенчәлеге шунда: ул виртуальләштерү кирәксез җирле эшли ала. Мәгълүмат үзәге мохитендә Wormhole процессорлары PCIe-ны машина эчендә киңәйтү өчен, яисә тышкы киңәйтү өчен Ethernet кулланачак.
Эшчәнлек ягыннан, Tenstorrent-ның бер чиплы Wormhole n150 картасы (72 Тенсикс үзәге, 1 ГГц ешлыгы, 108 МБ СРАМ, 12 ГБ ГДДР6, 288 ГБ / с киңлек киңлеге) 160Wда 262 FP8 TFLOPS, ә ике чиплы Wormhole n300 такта. .
46W FP8 TFLOPSның 300W контекстына кертү өчен, без аны AI базар лидеры Nvidia бу җылылык конструкция көчендә тәкъдим иткәннәр белән чагыштырырбыз. Nvidia's A100 FP8 ярдәм итми, ләкин ул INT8 ярдәм итә, иң югары күрсәткеч 624 TOPS (сирәк булганда 1,248 TOPS). Чагыштыру өчен, Nvidia's H100 FP8-ны хуплый һәм иң югары җитештерүчәнлегенә 300W (1634 TFLOPS сирәк) ирешә, бу Tenstorrent's Wormhole n300 белән аерылып тора.
Ләкин бер төп проблема бар. Tenstorrent's Wormhole n150 999 долларга, ә n300 1399 долларга сатыла. Чагыштыру өчен, бер Nvidia H100 график картасы санга карап 30,000 $ тора. Әлбәттә, без дүрт-сигез Wormhole процессоры бер H300 җитештерүчәнлеген китерә аламы, белмибез, ләкин аларның ТДПлары тиешенчә 600W һәм 1200W.
Карточкаларга өстәп, Tenstorrent уйлап табучылар өчен алдан төзелгән эш станцияләрен тәкъдим итә, шул исәптән активрак суыту белән Xeon нигезендәге TT-LoudBox арзанрак 4 n300 карточкалар, һәм EPYC нигезендә Xiaolong белән алдынгы TT-QuietBox) сыек суыту функциясе).
Пост вакыты: 29-2024 июль