作者：Patrick Mannion，特約編輯

隨著設(shè)計人員將并行數(shù)據(jù)處理作為人工智能 (AI)、自然語言處理和圖像處理的異構(gòu)架構(gòu)的核心元素，曾經(jīng)的協(xié)處理器 現(xiàn)在正在變成處理器。

可以肯定的是，英特爾、AMD、Arm 和開源 RISC-V 架構(gòu)的 CPU 仍將在控制平面處理甚至信號處理功能中發(fā)揮作用。然而，重點顯然轉(zhuǎn)移到了為快速有效地執(zhí)行深度神經(jīng)網(wǎng)絡(luò) (DNN) 和卷積神經(jīng)網(wǎng)絡(luò) (CNN) 算法而優(yōu)化的乘法累加 (MAC) 函數(shù)數(shù)組。

DNN 主要用于 AI 和自然語言處理。一個簡單的例子是亞馬遜的 Echo Dot，這是一個看似簡單的前端設(shè)備，由大規(guī)模并行 AI 和自然語言處理農(nóng)場支持。CNN 越來越多地用于計算機視覺處理，尤其是對來自汽車制造商的高效 CNN 解決方案特別感興趣，這些解決方案希望進一步增強其高級駕駛輔助系統(tǒng) (ADAS)。

對于希望利用 DNN 和 CNN 技術(shù)的數(shù)據(jù)中心和基于邊緣的系統(tǒng)的設(shè)計人員來說，經(jīng)典架構(gòu)在 Nvidia 的大型 GPU 和 videantis GmbH 的低功耗 CNN 處理器之后處于次要地位。

例如，Nvidia 最新的 Tesla V100 GPU 加速器使用 Volta GV100 GPU，繼續(xù)在數(shù)據(jù)中心樹立標準（圖 1）。GV100 基于該公司的 Pascal GPU，將 211 億個晶體管封裝在一個尺寸為 815 mm 2的芯片 中，并使用 TSMC 的 12-nm FinFET Nvidia (FFN) 制造工藝。GV100 版本進一步簡化了編程和應(yīng)用程序移植，提高了 GPU 資源利用率。

圖 1：Nvidia 的 Tesla V100 加速器基于其 GV100 GPU，它繼續(xù)為高性能數(shù)據(jù)中心、人工智能和深度學習系統(tǒng)和應(yīng)用設(shè)定標準。

Volta 迭代具有重新設(shè)計的流式多處理器 (SM) 架構(gòu)，效率比 Pascal 設(shè)計高 50%。新的 Tensor Core 專為深度學習而設(shè)計，可為訓練提供高達 12 倍的峰值 teraflops，為推理提供高達 6 倍的峰值 teraflops。其他功能包括支持 6 個第二代 Nvidia NVLink，總帶寬為 300 GB/s，16 GB HBM2 內(nèi)存，以及針對 Caffe2、MXNet、CNTK 和 TensorFlow 等深度學習框架的優(yōu)化軟件。

TensorFlow 是 Google 的深度學習框架，該公司使用張量處理單元 (TPU) 來支持它（圖 2）。谷歌將 TPU ASIC 設(shè)計為當前 GPU 和 CPU 架構(gòu)的替代方案，為谷歌搜索、谷歌圖像處理和谷歌翻譯等應(yīng)用程序大規(guī)模執(zhí)行神經(jīng)網(wǎng)絡(luò)處理。

圖 2：谷歌的 TPU 旨在為谷歌搜索、谷歌圖像處理和谷歌翻譯執(zhí)行大規(guī)模的神經(jīng)網(wǎng)絡(luò)計算。

TPU 采用 28 納米工藝實現(xiàn)，運行頻率為 700 MHz，功耗為 40 W。由于 Google 需要快速部署它以滿足快速達到極限的數(shù)據(jù)中心的需求，因此它是一款適合的加速卡插入 SATA 插槽。它通過 PCIe Gen3 x16 總線連接到主機。該接口的帶寬為 12.5 Gbytes/s。

相對于 CPU 和 GPU，TPU 在性能上是一個飛躍。處理器性能的核心是按脈動陣列排列的乘法器矩陣單元 (MXU)。雖然通用 CPU 是按順序執(zhí)行讀-操作-寫過程，但 MXU 的脈動陣列意味著它可以讀取輸入值并對其執(zhí)行多項操作，而無需將其存儲到寄存器中。之所以稱為收縮期，是因為數(shù)據(jù)以波的形式流經(jīng)芯片陣列，就像心臟如何泵血一樣。

MXU 方法針對功率和面積效率進行了優(yōu)化，每個周期可以為 8 位整數(shù)執(zhí)行 65,536 個 MAC。由于它以 700 MHz 運行，這意味著它可以執(zhí)行 46 x 10 12 MACs/秒。這與 DNN 上下文中的 RISC CPU 相比是有利的，因為它們通常每條指令只能執(zhí)行一個或兩個算術(shù)運算。GPU 每秒可以執(zhí)行數(shù)千次。

谷歌的 TPU 和英偉達的 Tesla V100 在替代處理架構(gòu)方面處于領(lǐng)先地位，AMD 和英特爾正在迎頭趕上。也就是說，英特爾收購了 Nervana 和 Altera 等公司尚未充分利用，而微軟已經(jīng)展示了其 Brainwave 軟件在 Stratix 10 FPGA 上運行，達到 39.5 teraops/s。它預(yù)計在以 500 MHz 運行的生產(chǎn)硅上實現(xiàn) 90 teraop/s。

將 CNN 帶到視覺邊緣隨著新老芯片和軟件供應(yīng)商在數(shù)據(jù)中心為 DNN 定位而努力，videantis GmbH 宣布了一個直接針對邊緣的 CNN 視覺處理器和開發(fā)工具鏈。特別是 v-MP6000UDX 視覺處理架構(gòu)和 v-CNNDesigner 工具針對智能圖像和視頻處理（圖 3）。

圖 3：videantis v-MP6000UDX 與 v-CNNDesigner 工具相結(jié)合，加速了網(wǎng)絡(luò)邊緣智能圖像傳感器的開發(fā)。

根據(jù) videantis 營銷副總裁 Marco Jacobs 的說法，CPU 和 GPU 本身的效率不足以在邊緣進行圖像傳感和處理，因此它在 2004 年開發(fā)了用于低功耗應(yīng)用的數(shù)字信號處理器。6000 系列是其最新的實例，該實例用于 DNN 和 CNN 算法。

與 TPU 不同，它也不用于訓練。相反，Jacobs 說，一旦培訓完成，設(shè)計師可以獲取開發(fā)的代碼，通過 v-CNNDesigner 運行它，并在幾分鐘內(nèi)將該代碼映射到 v-MP6000UDX 內(nèi)核。訓練是在不同情況和不同背景下識別對象的過程，例如不同的動物、路標、行人和其他對象。該過程是勞動密集型的，可能需要數(shù)周時間，并產(chǎn)生數(shù)兆字節(jié)的最終代碼。但是，一旦生成，代碼通過 v-CNNDesigner 運行，大大簡化了傳輸和映射過程。Jacobs 表示，v-MP6000UDX 處理器本身的運行速度為 50 teraops/s，其效率取決于工藝節(jié)點和其他實施因素。

智能傳感設(shè)備、ADAS 和智能手機是明顯的目標應(yīng)用，還有無人機、自動駕駛汽車、虛擬和增強現(xiàn)實以及監(jiān)控。由于神經(jīng)網(wǎng)絡(luò)處理的進步，videantis 所做的只是計算機視覺一個非常有趣的時期的開始?！?012 年，CNN 取得了重大突破，”他說，他指的是當年參加 ImageNet 大規(guī)模視覺識別挑戰(zhàn)賽的 CNN?！艾F(xiàn)在第二個趨勢[數(shù)據(jù)中心是第一個]是讓它們更小、更節(jié)能，這樣它們就可以在嵌入式設(shè)備上運行?！?/p>

隨著 CNN 的創(chuàng)新每天都在發(fā)生，Jacobs 強調(diào) v-MP6000UDX 運行多種算法，使其經(jīng)得起未來考驗。

審核編輯 黃昊宇