Джим Келлер җитәкчелегендәге чип компаниясе Tenstorrent ясалма интеллект өчен яңа буын Wormhole процессорын чыгарды, ул аның арзан бәядә яхшы эшләвен тәэмин итәр дип көтә.Хәзерге вакытта компания бер яки ике Wormhole процессорын сыйдыра алырлык ике өстәмә PCIe картасын, шулай ук программа тәэминаты эшләүчеләр өчен TT-LoudBox һәм TT-QuietBox эш станцияләрен тәкъдим итә. Бүгенге барлык игъланнар да Wormhole платаларын коммерция эш йөкләмәләре өчен кулланучыларга түгел, ә эшләүчеләргә юнәлтелгән.
"Безнең продуктларның күбрәк өлешен эшкәртүчеләр кулына тапшыру һәрвакыт күңелле. Безнең Wormhole™ карталарын кулланып чыгарылган эшкәртү системалары эшкәртүчеләргә күп чиплы ясалма интеллект программа тәэминатын масштабларга һәм эшләргә ярдәм итә ала", - диде Tenstorrent компаниясенең генераль директоры Джим Келлер.Бу чыгарылыштан тыш, без икенче буын продуктыбыз Blackhole'ны тасмадан чыгару һәм көчәйтү буенча казанышларыбызны күрүдән бик шатбыз.
Һәр Wormhole процессорында 72 Tensix үзәк (шул исәптән бишесе төрле мәгълүмат форматларындагы RISC-V үзәкләрен хуплый) һәм 108 МБ SRAM бар, алар 1 ГГц ешлыгында 262 FP8 TFLOPS бирә, җылылык белән эшләү куәте 160 Вт. Бер чиплы Wormhole n150 картасы 12 ГБ GDDR6 видеохәтере белән җиһазландырылган һәм 288 ГБ/с үткәрүчәнлеккә ия.
Wormhole процессорлары эш йөкләмәләренең төрле ихтыяҗларын канәгатьләндерү өчен сыгылмалы масштаблау мөмкинлеге бирә. Дүрт Wormhole n300 картасы булган стандарт эш станциясендә процессорларны программа тәэминатында бердәм, киң Tensix үзәк челтәре буларак күренгән бер берәмлеккә берләштерергә мөмкин. Бу конфигурация акселераторга бер үк эш йөкләмәсен эшкәртергә, дүрт эшкәртүче арасында бүленергә яки бер үк вакытта сигез төрле ясалма интеллект моделен эшләтергә мөмкинлек бирә. Бу масштаблауның төп үзенчәлеге - ул виртуалләштерүгә мохтаҗлыксыз локаль рәвештә эшли ала. Мәгълүмат үзәге мохитендә Wormhole процессорлары машина эчендә киңәйтү өчен PCIe, ә тышкы киңәйтү өчен Ethernet кулланачак.
Эшчәнлек ягыннан, Tenstorrent'ның бер чиплы Wormhole n150 картасы (72 Tensix үзәкле, 1 ГГц ешлыклы, 108 МБ SRAM, 12 ГБ GDDR6, 288 ГБ/с полоса киңлеге) 160 Вт куәттә 262 FP8 TFLOPS җыйган, ә ике чиплы Wormhole n300 тактасы (128 Tensix үзәкле, 1 ГГц ешлыклы, 192 МБ SRAM, 24 ГБ GDDR6, 576 ГБ/с полоса киңлеге) 300 Вт куәттә 466 FP8 TFLOPS җыйган.
Контекстка 466 FP8 TFLOPSның 300 Вт куәтен кертү өчен, без аны ясалма интеллект базары лидеры Nvidia компаниясенең бу җылылык дизайны куәтендә тәкъдим иткән продуктлары белән чагыштырырбыз. Nvidia'ның A100 моделе FP8'ны хупламый, ләкин ул INT8'ны хуплый, иң югары җитештерүчәнлеге 624 TOPS (сирәк булганда 1248 TOPS). Чагыштыру өчен, Nvidia'ның H100 моделе FP8'ны хуплый һәм 300 Вт'та 1670 TFLOPS (сирәк булганда 3341 TFLOPS) иң югары җитештерүчәнлегенә җитә, бу Tenstorrent'ның Wormhole n300 моделеннән шактый аерылып тора.
Шулай да, бер зур проблема бар. Tenstorrent'ның Wormhole n150 ваклап сату бәясе 999 доллар, ә n300 1399 доллар. Чагыштыру өчен, бер Nvidia H100 график картасы, санына карап, 30 000 доллар тора. Әлбәттә, без дүрт яки сигез Wormhole процессоры чыннан да бер H300 кебек эшли аламы белмибез, ләкин аларның TDPлары 600 Вт һәм 1200 Вт тәшкил итә.
Карталардан тыш, Tenstorrent эшкәртүчеләр өчен алдан төзелгән эш станцияләрен тәкъдим итә, шул исәптән актив суыту функциясе белән арзанрак Xeon нигезендәге TT-LoudBox'та 4 n300 картасы һәм EPYC нигезендәге Xiaolong (сыек суыту функциясе белән) алдынгы TT-QuietBox.
Бастырып чыгару вакыты: 2024 елның 29 июле