Джим Келлер жетектеген Tenstorrent чип компаниясы AI жумуш жүгү үчүн жаңы муундагы Wormhole процессорун чыгарды, ал арзан баада жакшы иштешин сунуштайт.Учурда компания бир же эки Wormhole процессорлорун, ошондой эле программалык камсыздоону иштеп чыгуучулар үчүн TT-LoudBox жана TT-QuietBox жумушчу станцияларын жайгаштыра алган эки кошумча PCIe карталарын сунуштайт. Бүгүнкү жарыялардын баары Wormhole такталарын коммерциялык жүктөө үчүн колдонгондорго эмес, иштеп чыгуучуларга багытталган.
"Биздин өнүмдөрдүн көбүн иштеп чыгуучулардын колуна тапшыруу ар дайым кубанычтуу. Wormhole™ карталарыбыздын жардамы менен иштеп чыгуу тутумдарын чыгаруу иштеп чыгуучуларга көп чиптүү AI программасын кеңейтүүгө жана өнүктүрүүгө жардам берет", - деди Джим Келлер, Tenstorrentтин башкы директору.Бул ишке киргизүүдөн тышкары, биз экинчи муундагы Blackhole продуктусунун лентасын чыгаруу жана кубаттандыруу менен жетишкен ийгиликтерди көрүп жатканыбызга кубанычтабыз.
Ар бир Wormhole процессору 72 Tensix өзөгүн (анын бешөө ар кандай маалымат форматтарында RISC-V өзөктөрүн колдойт) жана 108 МБ SRAMди камтыйт, 1 ГГц 262 FP8 TFLOPSти 160 Вт жылуулук дизайн кубаттуулугу менен жеткирет. Бир чиптүү Wormhole n150 картасы 12 ГБ GDDR6 видео эстутум менен жабдылган жана өткөрүү жөндөмдүүлүгү 288 ГБ/сек.
Wormhole процессорлору иш жүктөмүнүн ар түрдүү муктаждыктарын канааттандыруу үчүн ийкемдүү масштабдуулукту камсыз кылат. Төрт Wormhole n300 карталары менен стандарттык иш станциясында процессорлор программалык камсыздоодо бирдиктүү, кеңири Tensix өзөктүү тармагы катары көрүнгөн бирдиктүү бирдикке бириктирилиши мүмкүн. Бул конфигурация тездеткичке бир эле жүктү көтөрүүгө, төрт иштеп чыгуучунун ортосунда бөлүштүрүүгө же бир эле учурда сегизге чейин түрдүү AI моделдерин иштетүүгө мүмкүндүк берет. Бул масштабдуулуктун негизги өзгөчөлүгү, ал виртуалдаштыруунун кереги жок эле жергиликтүү иштей алат. Маалымат борборунун чөйрөсүндө Wormhole процессорлору машинанын ичинде кеңейтүү үчүн PCIe же тышкы кеңейтүү үчүн Ethernet колдонот.
Өндүрүмдүүлүк жагынан, Tenstorrentтин бир чиптүү Wormhole n150 картасы (72 Tensix өзөгү, 1 ГГц жыштыгы, 108 МБ SRAM, 12 ГБ GDDR6, 288 ГБ/с өткөрүү жөндөмдүүлүгү) 160 Втта 262 FP8 TFLOPSке жетишти, ал эми кош чиптүү (Tenholex1203) өзөктөр, 1 ГГц жыштыгы, 192 МБ SRAM, бириктирилген 24 ГБ GDDR6, 576 ГБ/с өткөрүү жөндөмдүүлүгү) 300 Втта 466 FP8 TFLOPSке чейин жеткирет.
300W 466 FP8 TFLOPS контекстке киргизүү үчүн, биз аны AI рыногунун лидери Nvidia бул жылуулук дизайн кубаттуулугунда сунуш кылган нерсе менен салыштырабыз. Nvidia's A100 FP8ди колдобойт, бирок INT8ди колдойт, эң жогорку көрсөткүчү 624 TOPS (сейрек кезде 1248 TOPS). Салыштыруу үчүн, Nvidia's H100 FP8ди колдойт жана 300 Втта 1670 TFLOPSтин эң жогорку көрсөткүчүнө жетет (сейрек учурда 3341 TFLOPS), бул Tenstorrent's Wormhole n300дөн бир топ айырмаланат.
Бирок, бир чоң көйгөй бар. Tenstorrent's Wormhole n150 999 долларга сатылса, n300 1399 долларга сатылат. Салыштыруу үчүн, бир Nvidia H100 графикалык картасы санына жараша 30 000 долларга сатылат. Албетте, биз төрт же сегиз Wormhole процессорлору бир H300 өндүрүмдүүлүгүн бере аларын билбейбиз, бирок алардын TDP'лери 600 Вт жана 1200 Вт.
Карталардан тышкары, Tenstorrent иштеп чыгуучулар үчүн алдын ала курулган жумушчу станцияларды, анын ичинде активдүү муздатуусу бар Xeon негизиндеги TT-LoudBoxтагы 4 n300 карталарын жана EPYC негизиндеги Xiaolong) суюк муздатуу функциясы менен өркүндөтүлгөн TT-QuietBox) сунуштайт.
Посттун убактысы: 29-июль 2024-ж