Jim Keller boshchiligidagi Tenstorrent chip kompaniyasi AI ish yuklari uchun o'zining yangi avlod Wormhole protsessorini chiqardi, u arzon narxda yaxshi ishlashni taklif qiladi.Hozirda kompaniya bir yoki ikkita Wormhole protsessorlarini sig'dira oladigan ikkita qo'shimcha PCIe kartasini, shuningdek, dasturiy ta'minot ishlab chiqaruvchilar uchun TT-LoudBox va TT-QuietBox ish stantsiyalarini taklif etadi. Bugungi barcha e'lonlar tijorat ish yuklari uchun Wormhole taxtasidan foydalanadiganlarga emas, balki ishlab chiquvchilarga qaratilgan.
“Mahsulotlarimizni ishlab chiquvchilar qo'liga olish har doim quvonarli. Wormhole™ kartalarimizdan foydalangan holda ishlab chiqish tizimlari ishlab chiquvchilarga ko‘p chipli AI dasturiy ta’minotini kengaytirish va ishlab chiqishda yordam berishi mumkin”, dedi Jim Keller, Tenstorrent bosh direktori.Ushbu ishga tushirishga qo'shimcha ravishda, biz ikkinchi avlod mahsulotimiz Blackhole-ning lentasini chiqarish va quvvatlantirish bilan erishayotgan yutuqlarimizni ko'rishdan juda xursandmiz.
Har bir Wormhole protsessorida 72 ta Tensix yadrosi (ulardan beshtasi turli xil ma'lumotlar formatlarida RISC-V yadrolarini qo'llab-quvvatlaydi) va 108 MB SRAM o'z ichiga oladi, ular 160 Vt termal dizayn quvvati bilan 1 gigagertsli chastotada 262 FP8 TFLOPS ta'minlaydi. Yagona chipli Wormhole n150 kartasi 12 Gb GDDR6 video xotirasi bilan jihozlangan va 288 Gb/s o‘tkazish qobiliyatiga ega.
Wormhole protsessorlari ish yuklarining turli ehtiyojlarini qondirish uchun moslashuvchan o'lchovni ta'minlaydi. To'rtta Wormhole n300 kartalari bo'lgan standart ish stantsiyasida protsessorlar birlashtirilgan, keng Tensix yadro tarmog'i sifatida dasturiy ta'minotda ko'rinadigan yagona blokga birlashtirilishi mumkin. Ushbu konfiguratsiya tezlatgichga bir xil ish yukini boshqarishga, to'rtta ishlab chiquvchiga bo'linishga yoki sakkiztagacha turli AI modellarini bir vaqtning o'zida ishga tushirishga imkon beradi. Ushbu miqyoslashning asosiy xususiyati shundaki, u virtualizatsiyaga muhtoj bo'lmasdan lokal ravishda ishlashi mumkin. Ma'lumotlar markazi muhitida Wormhole protsessorlari mashina ichida kengaytirish uchun PCIe yoki tashqi kengaytirish uchun Ethernet-dan foydalanadi.
Ishlash nuqtai nazaridan, Tenstorrent-ning bitta chipli Wormhole n150 kartasi (72 Tensix yadrosi, 1 GHz chastotasi, 108 MB SRAM, 12 GB GDDR6, 288 GB/s tarmoqli kengligi) 160 Vt quvvatda 262 FP8 TFLOPSga erishdi, ikki chipli plata esa 03 Vt. (128 Tensix yadrosi, 1 gigagertsli chastota, 192 MB SRAM, jamlangan 24 GB GDDR6, 576 GB/s tarmoqli kengligi) 300 Vt quvvatda 466 FP8 TFLOPSgacha yetkazib beradi.
466 FP8 TFLOPS ning 300 Vt quvvatini kontekstga kiritish uchun biz uni sun'iy intellekt bozori yetakchisi Nvidia ushbu termal dizayn quvvatida taklif qilayotgan narsa bilan solishtiramiz. Nvidia-ning A100 FP8-ni qo'llab-quvvatlamaydi, lekin u INT8-ni qo'llab-quvvatlaydi, eng yuqori unumdorligi 624 TOPS (siyrak bo'lganda 1248 TOPS). Taqqoslash uchun, Nvidia-ning H100 FP8-ni qo'llab-quvvatlaydi va 300 Vt quvvatda 1670 TFLOPS (siyrak holatda 3341 TFLOPS) eng yuqori ko'rsatkichlariga etadi, bu Tenstorrent's Wormhole n300 dan sezilarli darajada farq qiladi.
Biroq, bitta asosiy muammo bor. Tenstorrent's Wormhole n150 999 dollarga sotiladi, n300 esa 1399 dollarga sotiladi. Taqqoslash uchun, bitta Nvidia H100 grafik kartasi miqdoriga qarab 30 000 dollarga sotiladi. Albatta, biz to'rt yoki sakkizta Wormhole protsessorlari bitta H300 ishlashini ta'minlay oladimi yoki yo'qligini bilmaymiz, ammo ularning TDPlari mos ravishda 600 Vt va 1200 Vt.
Kartalarga qo'shimcha ravishda, Tenstorrent ishlab chiquvchilar uchun oldindan o'rnatilgan ish stantsiyalarini taklif qiladi, shu jumladan faol sovutishga ega Xeon-ga asoslangan TT-LoudBox-da 4 ta n300 kartalari va EPYC-ga asoslangan Xiaolong) suyuq sovutish funktsiyasi bilan rivojlangan TT-QuietBox).
Yuborilgan vaqt: 2024 yil 29-iyul