近年來(lái)，由于大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展，數(shù)據(jù)量呈現(xiàn)爆炸性增長(zhǎng)態(tài)勢(shì)，而傳統(tǒng)的計(jì)算架構(gòu)又無(wú)法支撐深度學(xué)習(xí)的大規(guī)模并行計(jì)算需求，于是研究界對(duì)人工智能芯片進(jìn)行了新一輪的技術(shù)研發(fā)與應(yīng)用研究。人工智能芯片作為終端實(shí)現(xiàn)人工智能算法的載體，是實(shí)現(xiàn)人工智能技術(shù)創(chuàng)新的重要基礎(chǔ)；同時(shí)，作為人工智能時(shí)代的技術(shù)核心之一，決定了平臺(tái)的基礎(chǔ)架構(gòu)和發(fā)展生態(tài)。

2018年12月，Gartner發(fā)布了《預(yù)測(cè)2019：人工智能與未來(lái)工作》報(bào)告，對(duì)人工智能科技未來(lái)七大發(fā)展趨勢(shì)及其對(duì)工作的影響進(jìn)行分析探討，人工智能芯片位列其中。人工智能芯片作為當(dāng)前衡量一個(gè)國(guó)家科技發(fā)展水平及實(shí)力的重要參考標(biāo)準(zhǔn)，一直以來(lái)都受到了廣泛的關(guān)注。以谷歌、微軟、英特爾、臉書(shū)為代表的科技巨頭爭(zhēng)相加大在人工智能芯片領(lǐng)域的布局。截至2018年5月，全球至少有60家初創(chuàng)公司在研發(fā)語(yǔ)音交互和自動(dòng)駕駛人工智能芯片、至少有5家企業(yè)已經(jīng)獲得超過(guò)1億美元的融資；根據(jù)國(guó)際權(quán)威基金評(píng)級(jí)機(jī)構(gòu)Morningstar預(yù)測(cè)，到2021年，全球人工智能芯片市場(chǎng)規(guī)模可能超過(guò)200億美元。

1

人工智能技術(shù)催動(dòng)芯片市場(chǎng)爆發(fā)

當(dāng)前正處于“后摩爾定律時(shí)代”，萬(wàn)物互聯(lián)和萬(wàn)物智能得以實(shí)現(xiàn)，核心推動(dòng)力量來(lái)自半導(dǎo)體產(chǎn)業(yè)，數(shù)百億智能設(shè)備連接網(wǎng)絡(luò)，用于數(shù)據(jù)采集的物聯(lián)網(wǎng)芯片和高性能人工智能芯片需求劇增，因萬(wàn)物互聯(lián)采集海量數(shù)據(jù)，經(jīng)數(shù)據(jù)中心構(gòu)造的云端對(duì)數(shù)據(jù)進(jìn)行處理，從而帶動(dòng)整個(gè)半導(dǎo)體發(fā)展。伴隨著大數(shù)據(jù)的發(fā)展，計(jì)算能力的提升，人工智能近年迎來(lái)了新一輪的爆發(fā)。谷歌、臉書(shū)、微軟、亞馬遜等國(guó)外各大科技巨頭公司已紛紛推出了自己的人工智能芯片，預(yù)計(jì)2020年有望突破百億大關(guān)，發(fā)展空間巨大。而各科技巨頭司都在探索不同類(lèi)型的人工智能芯片專(zhuān)用架構(gòu)：谷歌擁有張量處理單元（TPU），每個(gè)芯片具備一個(gè)核心和用軟件控制的內(nèi)存（而非緩存）；英偉達(dá)的GPU則擁有80多個(gè)內(nèi)核；微軟正在走FPGA的路線(xiàn)；英特爾則在所有類(lèi)型的人工智能芯片專(zhuān)用架構(gòu)上都有布局，為機(jī)器學(xué)習(xí)推銷(xiāo)傳統(tǒng)的CPU，收購(gòu)Altera和Nervana，前者專(zhuān)注于FPAG，后者專(zhuān)注于神經(jīng)網(wǎng)絡(luò)專(zhuān)用處理器（類(lèi)似于谷歌的TPU），當(dāng)前已經(jīng)進(jìn)入計(jì)算系統(tǒng)結(jié)構(gòu)的黃金時(shí)代。2018年，幾乎每個(gè)月，主流科技公司推出的定制人工智能芯片項(xiàng)目數(shù)量都會(huì)較上個(gè)月有所增加。

（1）英特爾方面，在芯片產(chǎn)業(yè)布局上，英特爾在2018年進(jìn)行了一系列收購(gòu)，加速開(kāi)發(fā)更新型的芯片。2018年7月，英特爾收購(gòu)物聯(lián)網(wǎng)芯片組廠(chǎng)商eASIC；2018年9月，英特爾收購(gòu)NetSpeed Systems，繼續(xù)布局專(zhuān)用片上系統(tǒng)（SoC）芯片產(chǎn)業(yè)。英特爾正在開(kāi)發(fā)越來(lái)越多樣化的SoC芯片產(chǎn)品，包括各種專(zhuān)用SoC，如Movidius VPU和FPGA。此外，英特爾在2018年展示了首款14納米獨(dú)立GPU原型，并確認(rèn)其首款獨(dú)立GPU最早將于2020年問(wèn)世。

（2）谷歌方面，2018年2月，谷歌開(kāi)放CloudTPU，專(zhuān)為加速、擴(kuò)展特定的TensorFlow機(jī)器學(xué)習(xí)工作負(fù)載而優(yōu)化。2018年5月，在GoogleI/O2018開(kāi)發(fā)者大會(huì)期間，谷歌正式發(fā)布了第三代人工智能學(xué)習(xí)專(zhuān)用處理器TPU3.0。TPU3.0采用8位低精度計(jì)算以節(jié)省晶體管數(shù)量，對(duì)精度影響很小但可以大幅節(jié)約功耗、加快速度，同時(shí)還有脈動(dòng)陣列設(shè)計(jì)，優(yōu)化矩陣乘法與卷積運(yùn)算，并使用更大的片上內(nèi)存，減少對(duì)系統(tǒng)內(nèi)存的依賴(lài)；速度能加快到最高每秒1000萬(wàn)億次浮點(diǎn)計(jì)算。

（3）英偉達(dá)方面，2018年3月，英偉達(dá)推出了一個(gè)更新的、全面優(yōu)化的軟件堆棧，還公布了其全球領(lǐng)先的深度學(xué)習(xí)計(jì)算平臺(tái)所取得的一系列重要進(jìn)展，包括NVIDIA Tesla V100（宣稱(chēng)是最強(qiáng)大的數(shù)據(jù)中心GPU）的2倍內(nèi)存提升，以及革命性的全新GPU互聯(lián)結(jié)構(gòu)NVIDIA NVSwitch，它可使多達(dá)16個(gè)Tesla V100 GPU同時(shí)以2.4 TB /秒的速度進(jìn)行通信，這一速度創(chuàng)下歷史新高（相較于半年前發(fā)布的上一代產(chǎn)品，其深度學(xué)習(xí)工作負(fù)載性能實(shí)現(xiàn)了10倍提升）。

（4）超威半導(dǎo)體（AMD）方面，2018年6月，AMD公開(kāi)展示了全球首款7納米制程的GPU芯片原型，含有32GB的高帶寬內(nèi)存，專(zhuān)為人工智能和深度學(xué)習(xí)設(shè)計(jì)，用于工作站和服務(wù)器；2018年11月，AMD發(fā)布了基于7納米工藝的升級(jí)版Vega架構(gòu)核心，也是全球首個(gè)7納米GPU。7納米Vega核心集成了132億個(gè)晶體管，比14納米Vega（125億個(gè)晶體管）增加了6.4％，而核心面積為331平方毫米，比現(xiàn)在的484平方毫米縮小了31.6％，晶體管密度翻了一番。同等功耗下，新核心性能提升超過(guò)25％；而同等頻率下，新核心功耗降低50％。

（5）蘋(píng)果方面，蘋(píng)果公司在2018年9月發(fā)布的新款iPhone系列手機(jī)均搭載了A12仿生芯片。A12仿生芯片由4核GPU、6核CPU和神經(jīng)網(wǎng)絡(luò)引擎構(gòu)成，內(nèi)有69億個(gè)晶體管，性能非常卓越，被認(rèn)為是當(dāng)時(shí)“智能手機(jī)中最智能、功能最強(qiáng)大的芯片”，其每秒運(yùn)算數(shù)據(jù)達(dá)到了5萬(wàn)億次，比2017年推出的A11提高733%，新的iPhone機(jī)器學(xué)習(xí)速度提升了9倍。

（6）國(guó)際商用機(jī)器（IBM）公司方面，2018年6月，IBM Research 人工智能團(tuán)隊(duì)利用大規(guī)模的模擬存儲(chǔ)器陣列訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，達(dá)到了與GPU相當(dāng)?shù)木?，被認(rèn)為是在下一次人工智能突破所需要的硬件加速器發(fā)展道路上邁出的重要一步，相關(guān)成果發(fā)表在《自然（Nature）》期刊上。

2

“邊緣側(cè)智能”發(fā)力，人工智能芯片與物聯(lián)網(wǎng)的緊密結(jié)合成為亮點(diǎn)

2018年12月，Gartner發(fā)布的《預(yù)測(cè)2019：人工智能與未來(lái)工作》報(bào)告重點(diǎn)提及“邊緣計(jì)算（EdgeComputing）”的潛力與應(yīng)用價(jià)值。近年來(lái)，計(jì)算工作負(fù)載一直在遷移：首先是從本地?cái)?shù)據(jù)中心遷移到云，現(xiàn)在越來(lái)越多地從云數(shù)據(jù)中心遷移到更靠近正在處理的數(shù)據(jù)源的“邊緣”位置，旨在通過(guò)縮短數(shù)據(jù)傳輸距離來(lái)提高應(yīng)用和服務(wù)的性能和可靠性，降低運(yùn)行成本，從而減少帶寬和延遲問(wèn)題。Gartner數(shù)據(jù)顯示，到2025年，80％的企業(yè)將關(guān)閉其傳統(tǒng)數(shù)據(jù)中心，而2018年則為10％；MarketsandMarkets數(shù)據(jù)顯示，到2022年，邊緣計(jì)算市場(chǎng)的價(jià)值將達(dá)到67.2億美元，高于2017年的14.7億美元，年復(fù)合增長(zhǎng)率35.4％，關(guān)鍵驅(qū)動(dòng)因素是物聯(lián)網(wǎng)和5G網(wǎng)絡(luò)的出現(xiàn)，“智能”芯片性能提升、“智能”應(yīng)用程序數(shù)量的增加以及云基礎(chǔ)架構(gòu)負(fù)載的增加。

隨著人工智能應(yīng)用的不斷擴(kuò)展，定位于數(shù)據(jù)中心（或稱(chēng)“云端”）的人工智能應(yīng)用普遍存在功耗高、實(shí)時(shí)性低、帶寬不足、數(shù)據(jù)傳輸過(guò)程安全性較低等問(wèn)題。預(yù)計(jì)，未來(lái)會(huì)有更多人工智能芯片部署于網(wǎng)絡(luò)“邊緣側(cè)”?！斑吘墏?cè)智能”專(zhuān)指靠近智能終端以及數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣側(cè)，融合了網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用的開(kāi)放計(jì)算平臺(tái)，已經(jīng)成為人工智能芯片的重要發(fā)展趨勢(shì)。

谷歌的人工智能布局正逐漸走向邊緣測(cè)。在2018年7月舉行的谷歌云端服務(wù)年會(huì)Google Cloud Next上，谷歌發(fā)布一款名為“Edge TPU”的人工智能芯片，作為小型人工智能加速器（體積僅為一美分硬幣的1/6），可在物聯(lián)網(wǎng)（IoT）設(shè)備中實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法的訓(xùn)練任務(wù)，這款芯片將為邊緣設(shè)備提供強(qiáng)大的計(jì)算和學(xué)習(xí)能力，已成為谷歌邊緣計(jì)算戰(zhàn)略的重要組成部分；同時(shí)，發(fā)布Cloud IoT Edge，這是一款能夠?qū)oogle的云服務(wù)擴(kuò)展到物聯(lián)網(wǎng)網(wǎng)關(guān)和邊緣設(shè)備的軟件堆棧。2018年11月，英偉達(dá)公開(kāi)了NVIDIA Jetson AGX Xavier機(jī)器人專(zhuān)用芯片平臺(tái)、面向邊緣計(jì)算的DRIVE AGX Xavier汽車(chē)級(jí)人工智能芯片等，致力于邊緣側(cè)數(shù)據(jù)感知、匯聚和推演，并基于這些芯片和平臺(tái)開(kāi)始向公司提供企業(yè)級(jí)解決方案，正在逐步從芯片制造商轉(zhuǎn)變?yōu)榉桨柑峁┥痰慕巧?/p>

人工智能芯片將繼續(xù)在物聯(lián)網(wǎng)領(lǐng)域扮演更重要的角色。相比于數(shù)據(jù)中心的人工智能加速器，位于“邊緣側(cè)”智能終端中的人工智能芯片需要更低的延遲性、更低的能耗、更小的體積和更低的成本；其算法要相對(duì)成熟，無(wú)需進(jìn)行頻繁的迭代更新。目前，越來(lái)越多的硬件廠(chǎng)商開(kāi)始提供邊緣處理的強(qiáng)化產(chǎn)品，例如邊緣服務(wù)器、智能網(wǎng)關(guān)等產(chǎn)品。

3

各大芯片制造商在人工智能領(lǐng)域垂直領(lǐng)域的實(shí)踐深化

各大芯片制造商除了在單純的研發(fā)層面需要更有針對(duì)性地進(jìn)行技術(shù)攻堅(jiān)之外，在整個(gè)芯片領(lǐng)域和產(chǎn)業(yè)的應(yīng)用、行業(yè)化縱深發(fā)展等配套層面也積極快速進(jìn)行探索和發(fā)展，推進(jìn)應(yīng)用更加“落地”，推動(dòng)人工智能芯片產(chǎn)品更加實(shí)用化。2018年，人工智能芯片領(lǐng)域的重大進(jìn)展之一體現(xiàn)在各大人工智能芯片制造商立足于解決實(shí)際問(wèn)題，在人工智能領(lǐng)域的實(shí)踐正在不斷深化。

在2018年11月舉行的2018英特爾人工智能大會(huì)上，英特爾發(fā)布了英特爾神經(jīng)計(jì)算棒二代（英特爾NCS 2），利用該計(jì)算棒可以在網(wǎng)絡(luò)邊緣構(gòu)建更智能的人工智能算法和計(jì)算機(jī)視覺(jué)原型設(shè)備。英特爾NCS 2基于英特爾 Movidius Myriad X視覺(jué)處理單元（VPU），并得到英特爾 OpenVINO工具包的支持，與上一代神經(jīng)計(jì)算棒相比性能更優(yōu)，能夠以可負(fù)擔(dān)的成本加快深度神經(jīng)網(wǎng)絡(luò)推理應(yīng)用的開(kāi)發(fā)。英特爾NCS 2支持深度神經(jīng)網(wǎng)絡(luò)測(cè)試、調(diào)整和原型制作，可以幫助開(kāi)發(fā)者進(jìn)入實(shí)際應(yīng)用的量產(chǎn)階段。2018年11月，英特爾牽頭的聯(lián)合研發(fā)團(tuán)隊(duì)開(kāi)發(fā)的野外智能相機(jī)搭載了Movidius人工智能視覺(jué)處理芯片，可完成東北虎及有蹄類(lèi)動(dòng)物識(shí)別，以及人類(lèi)識(shí)別（用于反盜獵）等多重識(shí)別任務(wù)。

2018年，雖然高通收購(gòu)恩智浦以失敗結(jié)尾，但這筆收購(gòu)案凸顯高通的意圖就是出自于拓展汽車(chē)芯片市場(chǎng)，智能汽車(chē)芯片的重要性也得以突顯。2018年8月，特斯拉宣布獨(dú)立開(kāi)發(fā)的人工智能芯片已經(jīng)準(zhǔn)備就緒。2018年11月，早就成為特斯拉、沃爾沃供應(yīng)商的英偉達(dá)發(fā)布了DRIVE AGX Xavier汽車(chē)級(jí)芯片。芯片的市場(chǎng)已經(jīng)由PC、移動(dòng)互聯(lián)網(wǎng)時(shí)代開(kāi)始走向“智能汽車(chē)”時(shí)代。

4

淺析人工智能芯片的發(fā)展趨勢(shì)

作為人工智能技術(shù)的重要物理基礎(chǔ)，人工智能芯片擁有巨大的產(chǎn)業(yè)價(jià)值和戰(zhàn)略地位。人工智能芯片研發(fā)的核心在于芯片架構(gòu)以及“感知-傳輸-處理/執(zhí)行”全流程邏輯的研發(fā)：短期內(nèi)以異構(gòu)計(jì)算（多類(lèi)型組合方式）為主，來(lái)加速各類(lèi)應(yīng)用算法的落地；中期側(cè)重發(fā)展自重構(gòu)、自學(xué)習(xí)、自適應(yīng)的芯片，來(lái)支持算法的演進(jìn)和類(lèi)人（類(lèi)腦）的自然智能；長(zhǎng)期朝著“通用人工智能芯片”的方面發(fā)展?！巴ㄓ萌斯ぶ悄苄酒笔侵改軌蛑С趾图铀偻ㄓ萌斯ぶ悄苡?jì)算的芯片，能夠讓系統(tǒng)通過(guò)學(xué)習(xí)和訓(xùn)練，準(zhǔn)確高效地處理任意智能主體（例如人）能夠處理的任務(wù)，其面臨通用性（算法和架構(gòu)）和實(shí)現(xiàn)復(fù)雜度等兩個(gè)主要難點(diǎn)。

但從大趨勢(shì)來(lái)看，目前人工智能芯片發(fā)展尚處于的初級(jí)階段，無(wú)論是科研還是產(chǎn)業(yè)應(yīng)用都有巨大的創(chuàng)新空間。目前主流人工智能芯片的核心主要是利用乘加計(jì)算加速陣列來(lái)實(shí)現(xiàn)對(duì)卷積神經(jīng)網(wǎng)絡(luò)中最主要的卷積運(yùn)算的加速。這一代人工智能芯片主要有如下三個(gè)方面的問(wèn)題：（1）芯片功耗問(wèn)題，內(nèi)存大量訪(fǎng)問(wèn)和乘加計(jì)算陣列的大量運(yùn)算，造成人工智能芯片整體功耗的增加；（2）內(nèi)存帶寬問(wèn)題，基于深度學(xué)習(xí)的人工智能計(jì)算所需數(shù)據(jù)量巨大，造成內(nèi)存帶寬成為整個(gè)系統(tǒng)的瓶頸，計(jì)算框架的高度并行與擴(kuò)展成為亟待解決的關(guān)鍵問(wèn)題；（3）性能和靈活度之間的平衡問(wèn)題，深度學(xué)習(xí)對(duì)算力要求非常高，提升算力的最好方法是做硬件加速，但是同時(shí)深度學(xué)習(xí)算法的發(fā)展也是日新月異，新的算法可能在已經(jīng)固化的硬件加速器上無(wú)法得到很好的支持。

因此，可以預(yù)見(jiàn)下一代人工智能芯片將有如下發(fā)展趨勢(shì)：（1）計(jì)算框架的高度并行與擴(kuò)展；（2）更高效的大卷積解構(gòu)與復(fù)用；（3）神經(jīng)網(wǎng)絡(luò)參數(shù)/計(jì)算位寬的迅速減少；（4）更多樣的存儲(chǔ)器定制設(shè)計(jì)；（5）更稀疏的大規(guī)模向量實(shí)現(xiàn)；（6）復(fù)雜異構(gòu)環(huán)境下計(jì)算效率提升；（5）計(jì)算和存儲(chǔ)一體化。

結(jié)束語(yǔ)

人工智能是目前研究的焦點(diǎn)，而為人工智能提供最底層硬件技術(shù)支持的芯片行業(yè)更是處于漩渦之中。隨著人工智能相關(guān)技術(shù)在近年來(lái)的跨越式發(fā)展，人們?cè)絹?lái)越看好人工智能的前景及其潛在的爆發(fā)力，而能否發(fā)展出具有超高運(yùn)算能力且符合市場(chǎng)的人工智能芯片成為人工智能平臺(tái)的關(guān)鍵一役。英偉達(dá)在目前的市場(chǎng)上保持著絕對(duì)的領(lǐng)先地位，但隨著包括谷歌、臉書(shū)、微軟、亞馬遜等眾多科技巨頭公司相繼加入決戰(zhàn)，人工智能芯片領(lǐng)域未來(lái)的格局如何，仍然待解。