?

連杰蘇（來(lái)源：ABI Research）

AI加速器芯片的機(jī)會(huì)被大肆宣傳，但市場(chǎng)有多大，今天哪些公司真正在銷售芯片？

ABI Research 的兩份新報(bào)告詳細(xì)介紹了當(dāng)今 AI 芯片組市場(chǎng)的發(fā)展?fàn)顩r。EETimes 采訪了報(bào)告的作者，首席分析師蘇連杰，以了解哪些公司和技術(shù)正在進(jìn)入這個(gè)潛在的利潤(rùn)豐厚的市場(chǎng)。

云中的人工智能

第一份報(bào)告“云 AI 芯片組：市場(chǎng)格局和供應(yīng)商定位”強(qiáng)調(diào)了云 AI 推理和培訓(xùn)服務(wù)如何快速增長(zhǎng)。由此產(chǎn)生的人工智能芯片組市場(chǎng)預(yù)計(jì)將從 2019 年的 42 億美元增長(zhǎng)到 2024 年的 100 億美元。該領(lǐng)域的當(dāng)前領(lǐng)導(dǎo)者英偉達(dá)和英特爾正受到寒武紀(jì)、Graphcore、Habana Labs 和高通等公司的挑戰(zhàn)。

Su 表示，英偉達(dá)在這個(gè)市場(chǎng)上仍然是一個(gè)明顯的領(lǐng)導(dǎo)者，這主要?dú)w功于其完善的開(kāi)發(fā)者生態(tài)系統(tǒng)和先發(fā)優(yōu)勢(shì)。

“此外，隨著人工智能模型、庫(kù)和工具包的不斷變化和更新，鑒于其作為通用人工智能芯片組的能力，英偉達(dá)是一個(gè)很好的后備選擇，”蘇說(shuō)。“誠(chéng)然，隨著市場(chǎng)的成熟，這些優(yōu)勢(shì)會(huì)慢慢減弱，但至少在可預(yù)見(jiàn)的未來(lái)，英偉達(dá)仍將處于強(qiáng)勢(shì)地位?！?/p>

今天的人工智能芯片組云市場(chǎng)分為三個(gè)部分。公共云由云服務(wù)提供商托管：AWS、微軟、谷歌、阿里巴巴、百度和騰訊等。然后是企業(yè)數(shù)據(jù)中心，它們實(shí)際上是私有云，以及 ABI 所謂的“混合云”，即結(jié)合公共云和私有云（VMware、Rackspace、NetApp、HPE、戴爾）的產(chǎn)品。

該報(bào)告還確定了一個(gè)額外的新興領(lǐng)域——電信云，它指的是電信公司為其核心網(wǎng)絡(luò)、IT 和邊緣計(jì)算工作負(fù)載部署的云基礎(chǔ)設(shè)施。

蘇說(shuō)，這個(gè)新的細(xì)分市場(chǎng)對(duì)人工智能芯片組制造商來(lái)說(shuō)是一個(gè)巨大的機(jī)會(huì)。

“我們已經(jīng)看到像華為這樣的網(wǎng)絡(luò)基礎(chǔ)設(shè)施供應(yīng)商，以及在較小程度上諾基亞推出針對(duì)電信網(wǎng)絡(luò)功能優(yōu)化的 ASIC，”Su 說(shuō)?！斑@是一個(gè)巨大的市場(chǎng)，但英偉達(dá)最近一直在努力進(jìn)入這個(gè)市場(chǎng)?！?/p>

雖然 Su 沒(méi)有看到任何其他公司在短期內(nèi)取代 Nvidia 在云端 AI 訓(xùn)練方面的主導(dǎo)地位，但推理更像是一種自由競(jìng)爭(zhēng)，目前還不是由單一玩家主導(dǎo)。這部分歸因于推理工作量的性質(zhì)，這在垂直領(lǐng)域之間有所不同。他說(shuō)，從 2020 年起，ASIC 預(yù)計(jì)將在該領(lǐng)域?qū)崿F(xiàn)強(qiáng)勁增長(zhǎng)。

當(dāng)前將人工智能推理轉(zhuǎn)移到邊緣設(shè)備的趨勢(shì)將意味著智能手機(jī)、自動(dòng)駕駛汽車和機(jī)器人等設(shè)備對(duì)云的依賴減少。但這并不意味著推理工作量（一些云服務(wù)提供商認(rèn)為大于訓(xùn)練工作量）將會(huì)減少，Su 說(shuō)。

“一些人工智能永遠(yuǎn)不會(huì)走向邊緣，例如聊天機(jī)器人和對(duì)話式人工智能、欺詐監(jiān)控和網(wǎng)絡(luò)安全系統(tǒng)，”他說(shuō)?！斑@些系統(tǒng)將從基于規(guī)則的人工智能系統(tǒng)演變?yōu)榛?a target="_blank">深度學(xué)習(xí)的人工智能系統(tǒng)，這實(shí)際上增加了推理工作量。[增加] 將足以取代那些移動(dòng)到邊緣的推理工作負(fù)載?！?/p>

然后是谷歌。谷歌的 TPU（張量處理單元）可以同時(shí)處理云中的訓(xùn)練和推理，被視為 CPU 和 GPU 技術(shù)的有力挑戰(zhàn)者（分別由英特爾和英偉達(dá)領(lǐng)導(dǎo)）。正如報(bào)告所指出的，谷歌在 TPU 方面的成功為其他云服務(wù)提供商 (CSP) 開(kāi)發(fā)自己的 AI 加速器 ASIC 提供了藍(lán)圖。華為、AWS和百度已經(jīng)這樣做了。

如果云服務(wù)提供商都在開(kāi)發(fā)他們自己的芯片組，這是否會(huì)為該領(lǐng)域的任何其他芯片組供應(yīng)商留下市場(chǎng)？

“隨著 CSP 開(kāi)始在自己的芯片組上工作，這條道路對(duì)于新來(lái)者來(lái)說(shuō)非常具有挑戰(zhàn)性，你當(dāng)然是對(duì)的，”Su 說(shuō)?！拔覀兩踔令A(yù)測(cè)，到 2024 年，15% 到 18% 的市場(chǎng)將屬于 CSP。機(jī)會(huì)更多地在于私有數(shù)據(jù)中心領(lǐng)域。銀行機(jī)構(gòu)、醫(yī)療機(jī)構(gòu)、研發(fā)實(shí)驗(yàn)室和學(xué)術(shù)界仍將需要運(yùn)行 AI，他們將考慮針對(duì) AI 工作負(fù)載進(jìn)行更優(yōu)化的芯片組，這為 Cerebras、Graphcore、Habana Labs 和 Wave Computing 等新來(lái)者提供了一些優(yōu)勢(shì)?！?/p>

其他將從這些趨勢(shì)中受益的參與者是 IP 內(nèi)核許可供應(yīng)商，如 ARM、Cadence 和芯原，他們將負(fù)責(zé)比以前更多的芯片組開(kāi)發(fā)企業(yè)的芯片組設(shè)計(jì)，Su 說(shuō)。

邊緣的人工智能

ABI 的第二份報(bào)告《Edge AI Chipsets: Technology Outlook and Use Cases》顯示，2018 年邊緣 AI 推理芯片組市場(chǎng)規(guī)模為 19 億美元。該報(bào)告還確定了一個(gè)邊緣訓(xùn)練市場(chǎng)，令人驚訝的是，該市場(chǎng)位于同年140萬(wàn)美元。

今天哪些應(yīng)用程序正在邊緣進(jìn)行培訓(xùn)？Su 解釋說(shuō)，這個(gè)數(shù)字包括網(wǎng)關(guān)（歷史學(xué)家或設(shè)備集線器）和本地服務(wù)器（在私有云中，但地理位置位于生成 AI 數(shù)據(jù)的位置）。專為在本地服務(wù)器上進(jìn)行訓(xùn)練任務(wù)而設(shè)計(jì)的芯片組包括 Nvidia 的 DGX、華為的網(wǎng)關(guān)和采用 Ascend 910 芯片組的服務(wù)器，以及 Cerebras System、Graphcore 和 Habana Labs 等針對(duì)本地?cái)?shù)據(jù)中心的系統(tǒng)級(jí)產(chǎn)品。

“這個(gè)（邊緣培訓(xùn)）市場(chǎng)仍然很小，因?yàn)樵迫匀皇侨斯ぶ悄芘嘤?xùn)的首選地點(diǎn)，”蘇說(shuō)。

與此同時(shí)，邊緣人工智能推理在 2019 年至 2024 年間估計(jì)的邊緣人工智能 31% 的復(fù)合年增長(zhǎng)率占大部分。對(duì)于邊緣推理，Su 描述了三個(gè)主要市場(chǎng)（智能手機(jī)/可穿戴設(shè)備、汽車、智能家居/白色家電）以及三個(gè)利基市場(chǎng).

第一個(gè)利基市場(chǎng)，機(jī)器人技術(shù)，通常需要異構(gòu)計(jì)算架構(gòu)，因?yàn)闄C(jī)器人依賴于多種類型的神經(jīng)網(wǎng)絡(luò)，例如用于導(dǎo)航的 SLAM（同時(shí)定位和映射）、用于人機(jī)界面的對(duì)話式 AI 和用于對(duì)象檢測(cè)的機(jī)器視覺(jué)等。它們?cè)诓煌潭壬鲜褂?CPU、GPU 和 ASIC。他說(shuō)，英偉達(dá)、英特爾和高通在這一領(lǐng)域競(jìng)爭(zhēng)激烈。

“第二個(gè)利基是智能工業(yè)應(yīng)用，包括制造、智能建筑以及石油和天然氣行業(yè)，”他說(shuō)。“我們看到 FPGA 供應(yīng)商在這個(gè)領(lǐng)域表現(xiàn)出色，不僅是由于傳統(tǒng)設(shè)備，還因?yàn)?FPGA 的架構(gòu)，[提供了]靈活性和適應(yīng)性。”

最后，還有“非常邊緣”，即將超低功耗 AI 芯片組嵌入廣域網(wǎng)上的傳感器和其他小型終端節(jié)點(diǎn)的趨勢(shì)。鑒于對(duì)超低功耗的關(guān)注，這一領(lǐng)域由 FPGA 公司、RISC-V 設(shè)計(jì)和 ASIC 供應(yīng)商占據(jù)。

到目前為止，誰(shuí)實(shí)際上在為邊緣的 AI 推理進(jìn)行設(shè)計(jì)？

“令人驚訝或不足為奇的是，由于智能手機(jī)的出貨量很大，智能手機(jī) AI ASIC 供應(yīng)商實(shí)際上在邊緣 AI 芯片組市場(chǎng)上處于領(lǐng)先地位，”Su 說(shuō)?！斑@指的是蘋果、海思、高通、三星，在較小程度上是指聯(lián)發(fā)科。但是，如果我們嚴(yán)格地談?wù)摮鮿?chuàng)公司，我認(rèn)為 Hailo、Horizon Robotics 和 Rockchip 似乎在終端設(shè)備制造商中獲得了一些動(dòng)力?！?/p>

Su 還表示，軟件對(duì)于邊緣 AI 芯片組的商業(yè)實(shí)施和部署至關(guān)重要，將 Nvidia 持續(xù)升級(jí)其編譯器工具和建立開(kāi)發(fā)者社區(qū)的努力與英特爾和賽靈思采取的方法進(jìn)行了比較，后者是與初創(chuàng)公司合作或收購(gòu)擁有基于軟件的加速解決方案。

“芯片組公司應(yīng)考慮向開(kāi)發(fā)人員社區(qū)提供工具包和庫(kù)，以及開(kāi)發(fā)人員教育計(jì)劃、競(jìng)賽、論壇和會(huì)議，因?yàn)檫@些將吸引開(kāi)發(fā)人員與芯片組公司合作并開(kāi)發(fā)相關(guān)應(yīng)用程序。所有這些都是新創(chuàng)業(yè)公司不容易實(shí)現(xiàn)的，”他說(shuō)。

該報(bào)告得出的結(jié)論是，除了為開(kāi)發(fā)者社區(qū)提供合適的軟件和支持外，該領(lǐng)域的成功公司還將提供良好的發(fā)展路線圖，并得到技術(shù)價(jià)值鏈的其余部分的支持。他們還需要在各種用例中擴(kuò)大其芯片的規(guī)模，同時(shí)保持具有競(jìng)爭(zhēng)力的價(jià)格點(diǎn)。

?

?