近年業(yè)界在深度神經(jīng)網(wǎng)絡(luò)(DNN)技術(shù)發(fā)展上進(jìn)展迅速，正對(duì)半導(dǎo)體IC設(shè)計(jì)與制造形成深刻的變革，2018年全球首款商用化DNN專(zhuān)用芯片將開(kāi)始出貨，或成為至今價(jià)格最高且最大的商用芯片，外界預(yù)期2018年將成為這類(lèi)芯片相繼問(wèn)世的一年，而過(guò)去幾年DNN技術(shù)開(kāi)發(fā)的興起，也帶動(dòng)創(chuàng)投資金重回半導(dǎo)體產(chǎn)業(yè)，可見(jiàn)近來(lái)基于新架構(gòu)的新創(chuàng)企業(yè)數(shù)量大增、達(dá)15家以上，這在過(guò)去10~15年來(lái)在單一產(chǎn)業(yè)領(lǐng)域未曾見(jiàn)過(guò)的景象。

據(jù)EE Times報(bào)導(dǎo)，預(yù)計(jì)2018年可能見(jiàn)到如英特爾(Intel)收購(gòu)的2.5D Nervana芯片已在送樣，還有10多個(gè)處理器正在開(kāi)發(fā)中，其它如人工智能(AI)新創(chuàng)企業(yè)Graphcore及其競(jìng)爭(zhēng)對(duì)手Cerebras Systems均可望推出自有芯片產(chǎn)品，威騰(WD)與安謀(ARM)等幾家芯片業(yè)者也在開(kāi)發(fā)自有核心，用以加速深度神經(jīng)網(wǎng)絡(luò)的推論部分。

市場(chǎng)研究機(jī)構(gòu)The Linley Group負(fù)責(zé)人Linley Gwennap指出，NVIDIA在其最新繪圖芯片(GPU)「Volta」開(kāi)發(fā)上表現(xiàn)非常出色，調(diào)整用于加速DNN訓(xùn)練，不過(guò)Gwennap不認(rèn)為這是最好的設(shè)計(jì)。

在訓(xùn)練芯片方面，英國(guó)Graphcore及美國(guó)加州Cerebras被視為是值得關(guān)注的公司，因擁有最好的團(tuán)隊(duì)且募得最多資金。由Google前芯片設(shè)計(jì)師創(chuàng)立的新創(chuàng)企業(yè)Groq計(jì)劃于2018年推出一款推論芯片，宣稱(chēng)在每秒整體操作及推論效能表現(xiàn)上，比競(jìng)爭(zhēng)對(duì)手高出4倍。

代號(hào)「Lake Crest」的英特爾Nervana芯片則為一大值得關(guān)注的客制化設(shè)計(jì)，與NVIDIA Volta相似的是，Lake Crest邏輯元件位在臺(tái)積電CoWoS中介層中，與4個(gè)HBM2高帶寬存儲(chǔ)器堆疊相鄰，這些芯片也被設(shè)計(jì)成網(wǎng)狀，提供比Volta高出5~10倍的效能表現(xiàn)。

雖然這類(lèi)AI芯片將問(wèn)世，不過(guò)芯片架構(gòu)師仍未決定應(yīng)如何進(jìn)行評(píng)估。加州大學(xué)柏克萊分校榮譽(yù)教授David Patterson指出，過(guò)去RISC供應(yīng)商在SPEC基準(zhǔn)測(cè)試上進(jìn)行合作，如今DNN加速器需要自行定義的測(cè)試套件，涵蓋一系列資料類(lèi)型的訓(xùn)練、推論以及獨(dú)立且叢集的芯片。

因此由超過(guò)20家主要伺服器及軟件制造商組成的服務(wù)器效能評(píng)測(cè)標(biāo)準(zhǔn)組織(TPC)，于2017年12月12日宣布已組成工作團(tuán)隊(duì)，來(lái)定義機(jī)器學(xué)習(xí)的硬件及軟件基準(zhǔn)，TPC-AI委員會(huì)主席Raghu Nambiar指出，目標(biāo)是要?jiǎng)?chuàng)建不論是以中央處理器(CPU)或GPU做為加速器都適用的測(cè)試。

基準(zhǔn)測(cè)試之外，工程師還需要追蹤仍在演化的神經(jīng)網(wǎng)絡(luò)算法，以確保其設(shè)計(jì)能獲得采用。高通(Qualcomm)下一代核心研發(fā)主任Karam Chatha表示，由于硬件將對(duì)軟件形成影響，在軟件總是在變化下，有及早推出硬件的必要性，至今行動(dòng)芯片供應(yīng)商在其Snapdragon系統(tǒng)單芯片(SoC)的DSP及GPU核心上的軟件運(yùn)行神經(jīng)網(wǎng)絡(luò)任務(wù)，不過(guò)部分觀察家預(yù)期，高通將為2019年版7納米Snapdragon SoC客制化一款全新機(jī)器學(xué)習(xí)芯片。

隨著算法持續(xù)演進(jìn)，研究人員也在擴(kuò)大深度學(xué)習(xí)的應(yīng)用面向，包括導(dǎo)入芯片設(shè)計(jì)及制造端，如英特爾匯整出超過(guò)40多項(xiàng)可能的用途領(lǐng)域，如華爾街采用的自動(dòng)化交易程序及消費(fèi)者在線消費(fèi)助理等應(yīng)用領(lǐng)域等。

另外，近期可見(jiàn)關(guān)于神經(jīng)網(wǎng)絡(luò)軟件技術(shù)的融合努力，如由Facebook與微軟(Microsoft)開(kāi)啟的開(kāi)放源計(jì)劃「開(kāi)放神經(jīng)網(wǎng)絡(luò)交換」(QNNX)格式，有助將所創(chuàng)造的神經(jīng)網(wǎng)絡(luò)模型轉(zhuǎn)換成圖形(graphical)呈現(xiàn)方式，芯片制造商則能在最終圖形上鎖定期硬件，這對(duì)無(wú)法自行編寫(xiě)軟件支持運(yùn)算模式架構(gòu)的新創(chuàng)企業(yè)如亞馬遜(Amazon)旗下MxNet、Google的TensorFlow、Facebook的Caffe2及微軟CNTK來(lái)說(shuō)，自然是一好消息。

另由30多家主要芯片供應(yīng)商組成的團(tuán)體，也發(fā)布其「神經(jīng)網(wǎng)絡(luò)交換格式」(NNEF)，旨在提供芯片制造商可創(chuàng)建自有內(nèi)部格式的替代解決方案，好比是NVIDIA的TensorRT及英特爾的Nervana Graph。

展望這類(lèi)AI芯片發(fā)展前景，以半導(dǎo)體產(chǎn)業(yè)來(lái)看，Patterson指出，隨著英特爾、Graphcore及NVIDIA已開(kāi)發(fā)出全標(biāo)線(full-reticle)芯片，下一階段則是發(fā)展3D技術(shù)，過(guò)去在摩爾定律(Moore’s Law)發(fā)展火紅時(shí)，基于憂心可靠性及成本問(wèn)題，導(dǎo)致較復(fù)雜的封裝技術(shù)無(wú)法獲得采用青睞，但如今摩爾定律終止在即，將可在封裝技術(shù)上看到許多試驗(yàn)在進(jìn)行。最終是可開(kāi)創(chuàng)出新形態(tài)的晶體管，可在邏輯與存儲(chǔ)器層上進(jìn)行On-Die堆疊。美國(guó)電子工程學(xué)界人士認(rèn)為，負(fù)電容鐵電晶體管技術(shù)或可能成為上述芯片技術(shù)的基礎(chǔ)，與3D NAND相同的是均采On-Die堆疊技術(shù)。

另外，美國(guó)麻省理工學(xué)院(MIT)、柏克萊大學(xué)(UC Berkeley)與史丹佛大學(xué)(Stanford University)組成的學(xué)術(shù)團(tuán)隊(duì)，也將于2月國(guó)際固態(tài)電路會(huì)議(ISSCC)上發(fā)表類(lèi)似技術(shù)的先進(jìn)芯片架構(gòu)，是將ReRAM結(jié)構(gòu)及碳納米管制成的邏輯元件堆疊于芯片中，此技術(shù)靈感來(lái)自于DNN、且被程序設(shè)計(jì)為近似模式，而非至今計(jì)算機(jī)采用過(guò)的確定性數(shù)字，這類(lèi)芯片可從案例中進(jìn)行學(xué)習(xí)，比傳統(tǒng)的系統(tǒng)所需操作要少得多，測(cè)試版芯片不久后將送交制造。