Джим Келлер жетектеген чип компаниясы Тенсоррант AI жүгү үчүн кийинки муундагы курт-иштетүү процессорун жарыялады, ал аны жеткиликтүү баада сунуштайт деп күтөт.Учурда Компания бир-эки доордук процессорлорду, ошондой эле ТТ-Кат-Катуу кутусун жана Т.Т. Бүгүнкү кулактандыруулар коммерциялык жүгү үчүн курстун устундарын колдонбогондорду колдонууга багытталган.
"Биздин өнүмдөрдү иштеп чыгуучулардын колуна алуу үчүн ар дайым кубанычтуураак.Ушул ишке киргизүүдөн тышкары, биз прогрессивдүү болуп, экинчи муундагы продукт продуктунун кубаттуулугун, Blackhole'ди кубаттап жатканыбызды көрүп, кубанып жатабыз. "
Ар бир курстун процессорунда 72 тенцекстин курамында (бешөө Тенсиден) ар кандай маалымат форматтарына 52 тен (бешөө колдоого колдоо көрсөтүлөт) жана 108 МБ, 262 фп8 TFLOPs 160 жуманын жылуулук дизайнынын күчү менен 262 мб. Жалгыз чип курсу N150 карта 12 ГБ GDDR6 видео эс тутуму менен жабдылган жана 288 гб / сек өткөрүү жөндөмү бар.
Wormhole процессорлору жумуш жүктөрүнүн ар түрдүүлүгүн канааттандыруу үчүн ийкемдүүлүктү камсыз кылат. Төрт курт станциялары боюнча стандарттык жумушчу орнотуу менен, Процесстер программалык камсыздоонун бирдиктүү, кеңири тенцекс негизги тармагы катары пайда болгон бирдиктүү бирдикке бириктирилиши мүмкүн. Бул конфигурация ылдамдаткычтын төрт иштеп чыгуучулардын ортосунда бөлүштүрүү, бир эле учурда сегиз башка AIге чейинки сегизге чейин чуркап барууга мүмкүнчүлүк берет. Бул масштабдын негизги өзгөчөлүгү, ал ар тараптуу муктаждык жок. Маалымат борборунун чөйрөсүндө курчуу процесстери машинанын ичинде кеңейүү үчүн, же тышкы экспансия үчүн Ethernet үчүн PCиде колдонушат.
Тенцоррант, Тензорренттин бирдиктүү курстары, 1 ГБ SRAM, 128 мб-дрят 24 ГБ ГБ, 576 ГБ / S өткөрүү жөндөмдүүлүгү) 300-жылы 466 FP8 TFLOPs чейин жеткирет.
466 FP8 TFLOPs контекстине 300 сине салып, биз аны Айдын базарынын лидери Нвидиядагы бул жылуулук дизайнынын күчүндө сунуштайт. NVIDIA A100 FP8ди колдобойт, бирок ал INT8ди колдойт, ал 624 чокунун чокусун (сейрек кездешкенде 1,248 чоку) колдойт. Салыштырмалуу NVIDIAнын H100 FP8ди колдойт жана 300Wга сейрек кездешет (3,341 тектин 3,341 тъфлуп), ал кыйла айырмаланат, бул N300.
Бирок, бир чоң көйгөй бар. TensTorrent's Wormhole N150 чекене $ 999 чейин, ал эми N300 долларга сатат. Салыштыруу менен, бир NVidia H100 графикалык картаны $ 30,000 чейин, көлөмүнө жараша толтурат. Албетте, төрт-сегиз курстун процесстери бир-биринин аткарууну иш жүзүндө колдоно албаса, анда алардын TDPS 600w жана 1200w болуп саналат.
Карталарга кошумча иштеп чыгуучуларга алдын ала курулган жумушчулаторлорун сунуштайт, анын ичинде 4 N300 карточка менен 4 N300 карточка активдүү муздатуучу т.б.
Пост убактысы: июл-29-2024