Джим Келлер жетектеген чип компаниясы Tenstorrent жасалма интеллект үчүн жаңы муундагы Wormhole процессорун чыгарды, ал жеткиликтүү баада жакшы иштөөнү камсыз кылат деп күтүлүүдө.Учурда компания бир же эки Wormhole процессорун батыра турган эки кошумча PCIe картасын, ошондой эле программалык камсыздоону иштеп чыгуучулар үчүн TT-LoudBox жана TT-QuietBox жумуш станцияларын сунуштайт. Бүгүнкү жарыялардын баары Wormhole платаларын коммерциялык жумуш жүктөмдөрү үчүн колдонгондорго эмес, иштеп чыгуучуларга багытталган.
«Биздин өнүмдөрдүн көбүн иштеп чыгуучулардын колуна өткөрүп берүү ар дайым кубанычтуу. Wormhole™ карталарыбызды колдонуп, иштеп чыгуу системаларын чыгаруу иштеп чыгуучуларга көп чиптүү AI программасын масштабдоого жана иштеп чыгууга жардам берет», - деди Tenstorrent компаниясынын башкы директору Джим Келлер.Бул ишке киргизүүдөн тышкары, биз экинчи муундагы Blackhole продуктубузду скотчтон чыгарып, кубаттоо боюнча жетишкендиктерди көрүп кубанып жатабыз.
Ар бир Wormhole процессорунда 72 Tensix өзөгү (алардын бешөө ар кандай маалымат форматтарындагы RISC-V өзөктөрүн колдойт) жана 108 МБ SRAM бар, алар 1 ГГц жыштыкта 262 FP8 TFLOPS жана 160 Вт жылуулук кубаттуулугун камсыз кылат. Бир чиптүү Wormhole n150 картасы 12 ГБ GDDR6 видеоэс тутуму менен жабдылган жана өткөрүү жөндөмдүүлүгү 288 ГБ/с.
Wormhole процессорлору жумуш жүктөмдөрүнүн ар кандай муктаждыктарын канааттандыруу үчүн ийкемдүү масштабдоону камсыз кылат. Төрт Wormhole n300 картасы бар стандарттуу жумуш станциясында процессорлорду программалык камсыздоодо бирдиктүү, кеңири Tensix өзөктүү тармагы катары пайда болгон бирдиктүү бирдикке бириктирүүгө болот. Бул конфигурация акселераторго бир эле жумуш жүктөмүн башкарууга, төрт иштеп чыгуучунун ортосунда бөлүштүрүүгө же бир эле учурда сегизге чейин ар кандай AI моделин иштетүүгө мүмкүндүк берет. Бул масштабдоонун негизги өзгөчөлүгү - ал виртуалдаштыруунун кажети жок жергиликтүү түрдө иштей алат. Маалымат борборунун чөйрөсүндө Wormhole процессорлору машинанын ичинде кеңейтүү үчүн PCIe же тышкы кеңейтүү үчүн Ethernet колдонушат.
Иштөө жагынан алганда, Tenstorrentтин бир чиптүү Wormhole n150 картасы (72 Tensix өзөгү, 1 ГГц жыштык, 108 МБ SRAM, 12 ГБ GDDR6, 288 ГБ/с өткөрүү жөндөмдүүлүгү) 160 Вт кубаттуулукта 262 FP8 TFLOPSке жетишкен, ал эми кош чиптүү Wormhole n300 тактасы (128 Tensix өзөгү, 1 ГГц жыштык, 192 МБ SRAM, 24 ГБ GDDR6, 576 ГБ/с өткөрүү жөндөмдүүлүгү) 300 Вт кубаттуулукта 466 FP8 TFLOPSке чейин жеткире алат.
Контекстке салсак, биз аны AI рыногунун лидери Nvidia ушул жылуулук дизайнынын кубаттуулугунда сунуштап жаткан нерсе менен салыштырып көрөбүз. Nvidia'нын A100 модели FP8ди колдобойт, бирок INT8ди колдойт, анын эң жогорку өндүрүмдүүлүгү 624 TOPS (аз болгондо 1248 TOPS). Салыштырмалуу, Nvidia'нын H100 модели FP8ди колдойт жана 300 Вт кубаттуулукта 1670 TFLOPS (аз болгондо 3341 TFLOPS) эң жогорку өндүрүмдүүлүккө жетет, бул Tenstorrent'тин Wormhole n300 моделинен бир топ айырмаланат.
Бирок, бир чоң көйгөй бар. Tenstorrent компаниясынын Wormhole n150 чекене баасы 999 доллар, ал эми n300 1399 долларга сатылат. Салыштырмалуу, бир Nvidia H100 графикалык картасынын чекене баасы санына жараша 30 000 долларды түзөт. Албетте, төрт же сегиз Wormhole процессору чындыгында бир H300дүн өндүрүмдүүлүгүн камсыздай алабы же жокпу, билбейбиз, бирок алардын TDPлери тиешелүүлүгүнө жараша 600 Вт жана 1200 Вт.
Карталардан тышкары, Tenstorrent иштеп чыгуучулар үчүн алдын ала курулган жумуш станцияларын сунуштайт, анын ичинде активдүү муздатуу менен арзаныраак Xeon негизиндеги TT-LoudBox'тогу 4 n300 картасы жана EPYC негизиндеги Xiaolong (суюк муздатуу функциясы) менен өнүккөн TT-QuietBox бар.
Жарыяланган убактысы: 2024-жылдын 29-июлу