電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）在 CRN 發(fā)布的 2023 年十大半導(dǎo)體初創(chuàng)公司的名單上，我們看到了不少AI 芯片廠商的名字，比如Cerebras Systems、SiMa.ai和Tenstorrent。其中Tenstorrent 最惹人關(guān)注，這家位于多倫多的初創(chuàng)企業(yè)如今由知名半導(dǎo)體業(yè)界大神 Jim Keller擔(dān)任CEO。

Tenstorrent 在 2021 年收獲了富達(dá)集團(tuán)領(lǐng)投的 2 億美元融資后，又在2023 年獲得了來(lái)自現(xiàn)代汽車(chē)集團(tuán)和三星催化劑基金會(huì)領(lǐng)投的 1 億美元融資。但對(duì)于這家廠商的硬件產(chǎn)品，我們卻很少得見(jiàn)真容，直到最近其開(kāi)發(fā)套件開(kāi)放訂購(gòu)和出貨。

開(kāi)發(fā)套件出貨，新的 AI 硬件開(kāi)發(fā)平臺(tái)

從 Tenstorrent 的官網(wǎng)來(lái)看，目前已經(jīng)開(kāi)放訂購(gòu)的是其第一代 PCIe 4.0 AI 推理加速卡，e75 和 e150，兩者的定價(jià)分別為 599 美元和 799 美元。e75 開(kāi)發(fā)套件可用于基礎(chǔ)的推理任務(wù)，采用了 1/2 PCIe長(zhǎng)度的設(shè)計(jì)搭配了 Tenstorrent 的第一代 AI 芯片 Grayskull，集成了96 個(gè) Tensix 核心、96MB 的 SRAM、8GB LPDDR4 內(nèi)存，核心頻率達(dá)到 1GHz，整個(gè)板卡的功耗約為75W。

e150 則是 3/4 長(zhǎng)度的 PCIe 加速卡，同樣搭載了一個(gè) Grayskull 芯片，但核心數(shù)卻達(dá)到了 120個(gè)，同時(shí)配備了120MB 的 SRAM，核心頻率也提升至 1.2GHz，單卡功耗約為 200W.

e75 雖然只是入門(mén)級(jí)的推理硬件套件，卻已經(jīng)給到了完整的開(kāi)發(fā)流程，開(kāi)發(fā)者可以使用兩種不同的軟件實(shí)現(xiàn)方式，一套是從上至下的 TT-Buda，另一套是從下至上的TT-Metalium。TT-Buda適用于想要開(kāi)箱即用，直接將任何模型投入量產(chǎn)的客戶。而TT-Metalium則適用于想要充分了解 Tenstorrent軟硬件，并借此定制開(kāi)發(fā)模型的客戶。

需要注意的是，e75 和 e150僅僅是 AI 加速卡而已，仍需要搭配一套通用計(jì)算系統(tǒng)才能精心開(kāi)展 AI 開(kāi)發(fā)。目前其僅支持 x86_64 架構(gòu)和 Ubuntu 20.04 以上版本的系統(tǒng)，且需要 64GB 的內(nèi)存和至少 100GB 的存儲(chǔ)。

Tenstorrent 下一代 AI 芯片

除了第一代芯片 Grayskull 以外，Tenstorrent也公開(kāi)了基于第二代芯片 Wormhole 的 PCIe AI 加速卡 n150 和 n300，n150 搭載了一個(gè) Wormhole 芯片，而 n300 搭載了兩個(gè) Wormhole 芯片，因此兩者的 Tensix 核心數(shù)存在較大差異，分別是 72 個(gè)和 128 個(gè)，單板功耗分別為 160W和 300W。

從內(nèi)存配置上看，Wormhole也確實(shí)是面向更高性能的 AI 解決方案，將 Grayskull 的 LPDDR4 內(nèi)存換成了帶寬更高的 GDDR6 內(nèi)存。根據(jù)Tenstorrent 提供的說(shuō)明，GraySkull 和 Wormhole 已經(jīng)支持了市面上主流的模型，比如 BERT、GPT-2、MobileNetV3、ResNet和YOLOv5等等，而性能更強(qiáng)的 Wormhole還提供了對(duì) Falcon 和 Stable Diffusion 的支持。

不過(guò)，與可以單獨(dú)購(gòu)買(mǎi)單個(gè)開(kāi)發(fā)套件的 e75 和 e150 相比，目前 n150 和 n300 只開(kāi)放了批量購(gòu)買(mǎi)，且并沒(méi)有公布定價(jià)。要知道，無(wú)論是 Grayskull還是 Wormhole，都只是 Tenstorrent對(duì) AI 芯片的早期設(shè)計(jì)與嘗試，兩者均基于 12nm 工藝開(kāi)發(fā)，且實(shí)際算力差距并不大，都在 300TFLOPS@INT8左右，只是其他硬件資源配置上有些許不同。而后續(xù)即將推出的 Black Hole將基于 6nm 工藝打造，將算力提升至1000TFLOPS@INT8 左右。

在其產(chǎn)品路線圖上，預(yù)計(jì)在今年公開(kāi)發(fā)布的 Grendel才是其針對(duì)高端 AI 計(jì)算的殺手锏。Grendel采用了全新的 Chiplet 設(shè)計(jì)，且用到了自研的 RISC-V CPU 核心，結(jié)合 3nm 工藝的 AI&CPU Chiplet，以及 7nm 工藝的內(nèi)存與 I/O Chiplet，將提供一個(gè)完整可擴(kuò)展的 AI 硬件平臺(tái)。

寫(xiě)在最后

對(duì)于任何一個(gè)新的 AI 開(kāi)發(fā)平臺(tái)而言，硬件開(kāi)發(fā)套件和配套軟件都是至關(guān)重要的，甚至決定了愿意嘗試的開(kāi)發(fā)者基數(shù)。Tenstorrent 在開(kāi)放了 e75 和e150的購(gòu)買(mǎi)后，無(wú)疑給不少還在觀望其硬件架構(gòu)的開(kāi)發(fā)一個(gè)嘗鮮的機(jī)會(huì)。而開(kāi)箱即用的體驗(yàn)，想必也會(huì)吸引不少?gòu)S商對(duì)后續(xù)的高性能產(chǎn)品產(chǎn)生興趣。