Jim Keller boshchiligidagi Tenstorrent chip kompaniyasi sun'iy intellekt ish yuklamalari uchun yangi avlod Wormhole protsessorini chiqardi, u arzon narxda yaxshi ishlashni taklif qiladi deb kutmoqda.Kompaniya hozirda bitta yoki ikkita Wormhole protsessorini sig'dira oladigan ikkita qo'shimcha PCIe kartalarini, shuningdek, dasturiy ta'minot ishlab chiquvchilari uchun TT-LoudBox va TT-QuietBox ish stantsiyalarini taklif qilmoqda. Bugungi barcha e'lonlar tijorat ish yuklamalari uchun Wormhole platalaridan foydalanayotganlarga emas, balki ishlab chiquvchilarga qaratilgan.
“Mahsulotlarimizning koʻproq qismini ishlab chiquvchilar qoʻliga topshirish har doim yoqimli. Wormhole™ kartalarimizdan foydalangan holda ishlab chiqish tizimlarini chiqarish ishlab chiquvchilarga koʻp chipli AI dasturiy taʼminotini kengaytirish va ishlab chiqishda yordam berishi mumkin”, dedi Tenstorrent bosh direktori Jim Keller.Ushbu ishga tushirishdan tashqari, biz ikkinchi avlod mahsulotimiz Blackhole’ni lenta bilan o‘chirish va quvvatlantirish borasida erishayotgan yutuqlarimizni ko‘rishdan xursandmiz.
Har bir Wormhole protsessori 72 ta Tensix yadrosini (ulardan beshtasi turli ma'lumotlar formatlaridagi RISC-V yadrolarini qo'llab-quvvatlaydi) va 108 MB SRAMni o'z ichiga oladi, bu esa 1 gigagertsli chastotada 262 ta FP8 TFLOPSni 160 Vt issiqlik quvvati bilan ta'minlaydi. Bir chipli Wormhole n150 kartasi 12 GB GDDR6 video xotirasi bilan jihozlangan va 288 GB/s o'tkazish qobiliyatiga ega.
Wormhole protsessorlari ish yuklamalarining xilma-xil ehtiyojlarini qondirish uchun moslashuvchan masshtablanishni ta'minlaydi. To'rtta Wormhole n300 kartasiga ega standart ish stantsiyasida protsessorlar dasturiy ta'minotda birlashtirilgan, keng Tensix yadroli tarmog'i sifatida ko'rinadigan yagona birlikka birlashtirilishi mumkin. Ushbu konfiguratsiya akseleratorga bir xil ish yukini boshqarish, to'rtta ishlab chiquvchi o'rtasida bo'linish yoki bir vaqtning o'zida sakkiztagacha turli xil AI modellarini ishga tushirish imkonini beradi. Ushbu masshtablanishning asosiy xususiyati shundaki, u virtualizatsiyaga ehtiyoj sezmasdan mahalliy darajada ishlashi mumkin. Ma'lumotlar markazi muhitida Wormhole protsessorlari mashina ichida kengaytirish uchun PCIe yoki tashqi kengaytirish uchun Ethernetdan foydalanadi.
Ishlash jihatidan, Tenstorrentning bitta chipli Wormhole n150 kartasi (72 ta Tensix yadrosi, 1 gigagertsli chastota, 108 MB SRAM, 12 GB GDDR6, 288 GB/s o'tkazish qobiliyati) 160 Vt da 262 FP8 TFLOPS ga erishdi, ikki chipli Wormhole n300 kartasi (128 ta Tensix yadrosi, 1 gigagertsli chastota, 192 MB SRAM, 24 GB GDDR6, 576 GB/s o'tkazish qobiliyati) esa 300 Vt da 466 tagacha FP8 TFLOPS ga erishdi.
466 ta FP8 TFLOPS dan 300 Vt quvvatni kontekstga solish uchun, biz uni AI bozori yetakchisi Nvidia ushbu termal dizayn quvvatida taklif qilayotgan narsalar bilan taqqoslaymiz. Nvidia'ning A100 modeli FP8 ni qo'llab-quvvatlamaydi, lekin u INT8 ni qo'llab-quvvatlaydi, eng yuqori ishlash ko'rsatkichi 624 TOPS (kam quvvatlanganda 1248 TOPS). Taqqoslash uchun, Nvidia'ning H100 modeli FP8 ni qo'llab-quvvatlaydi va 300 Vt quvvatda 1670 TFLOPS (kam quvvatlanganda 3341 TFLOPS) eng yuqori ishlash ko'rsatkichiga erishadi, bu esa Tenstorrent'ning Wormhole n300 dan sezilarli darajada farq qiladi.
Biroq, bitta asosiy muammo bor. Tenstorrent’ning Wormhole n150 chakana narxi 999 dollar, n300 esa 1399 dollarga sotiladi. Taqqoslash uchun, bitta Nvidia H100 grafik kartasi miqdoriga qarab 30 000 dollarga sotiladi. Albatta, biz to'rtta yoki sakkizta Wormhole protsessori aslida bitta H300 ning ishlashini ta'minlay oladimi yoki yo'qligini bilmaymiz, lekin ularning TDPlari mos ravishda 600 Vt va 1200 Vt.
Kartalardan tashqari, Tenstorrent ishlab chiquvchilar uchun oldindan tayyorlangan ish stantsiyalarini taklif etadi, jumladan, faol sovutishga ega arzonroq Xeon asosidagi TT-LoudBox’dagi 4 ta n300 karta va EPYC asosidagi Xiaolong (suyuq sovutish funksiyasi) bilan jihozlangan ilg‘or TT-QuietBox.
Nashr vaqti: 2024-yil 29-iyul