各種PU（processing unit）的概念層出不窮，比較火熱。今天我們來(lái)大致看看，這些X PU都是些什么？

什么是CPU？

中央處理器（Central Processing Unit），是電子計(jì)算機(jī)的主要設(shè)備之一，電腦中的核心配件。其功能主要是解釋計(jì)算機(jī)指令以及處理計(jì)算機(jī)軟件中的數(shù)據(jù)。CPU是計(jì)算機(jī)中負(fù)責(zé)讀取指令，對(duì)指令譯碼并執(zhí)行指令的核心部件。中央處理器主要包括兩個(gè)部分，即控制器、運(yùn)算器，其中還包括高速及實(shí)現(xiàn)它們緩沖處理器之間聯(lián)系的數(shù)據(jù)、控制的總線。

電子計(jì)算機(jī)三大核心部件就是CPU、內(nèi)部存儲(chǔ)器、輸入/輸出設(shè)備。中央處理器的功效主要為處理指令、執(zhí)行操作、控制時(shí)間、處理數(shù)據(jù)，也就是機(jī)器的“大腦”。在計(jì)算機(jī)體系結(jié)構(gòu)中，CPU 是對(duì)計(jì)算機(jī)的所有硬件資源（如存儲(chǔ)器、輸入輸出單元） 進(jìn)行控制調(diào)配、執(zhí)行通用運(yùn)算的核心硬件單元。CPU 是計(jì)算機(jī)的運(yùn)算和控制核心。計(jì)算機(jī)系統(tǒng)中所有軟件層的操作，最終都將通過(guò)指令集映射為CPU的操作。

CPU的結(jié)構(gòu)主要包括運(yùn)算器（ALU, Arithmetic and Logic Unit）、控制單元（CU, Control Unit）、寄存器（Register）、高速緩存器（Cache）和它們之間通訊的數(shù)據(jù)、控制及狀態(tài)的總線。

架構(gòu)如下圖所示：

什么是GPU？

圖形處理器（Graphics Processing Unit），又稱顯示核心、視覺處理器、顯示芯片，是一種專門在個(gè)人電腦、工作站、游戲機(jī)和一些移動(dòng)設(shè)備（如平板電腦、智能手機(jī)等）上做圖像和圖形相關(guān)運(yùn)算工作的微處理器。

GPU的構(gòu)成相對(duì)簡(jiǎn)單，有數(shù)量眾多的計(jì)算單元和超長(zhǎng)的流水線，特別適合處理大量的類型統(tǒng)一的數(shù)據(jù)。但GPU無(wú)法單獨(dú)工作，必須由CPU進(jìn)行控制調(diào)用才能工作。

圖像上的每一個(gè)像素點(diǎn)都有被處理的需要，而且每個(gè)像素點(diǎn)處理的過(guò)程和方式都十分相似，也就成了GPU的天然溫床。GPU就是用很多簡(jiǎn)單的計(jì)算單元去完成大量的計(jì)算任務(wù)，也就是并行計(jì)算。

什么是TPU？

TPU（Tensor Processing Unit），也就是張量處理單元，是一款為機(jī)器學(xué)習(xí)而定制的芯片，經(jīng)過(guò)了專門深度機(jī)器學(xué)習(xí)方面的訓(xùn)練，它有更高效能。

如果說(shuō)CPU，GPU是比較萬(wàn)能的工具，那么TPU就是專用工具。TPU就是谷歌專門為加速深層神經(jīng)網(wǎng)絡(luò)運(yùn)算能力而研發(fā)的一款芯片，其實(shí)也是一款ASIC。

財(cái)大氣粗的谷歌就是針對(duì)機(jī)器學(xué)習(xí)算法而專門制作了TPU，那么它的性能想來(lái)也是沒得說(shuō)。畢竟專業(yè)人做專業(yè)事，效率更高。

據(jù)說(shuō)，TPU與同期的CPU和GPU相比，可以提供15-30倍的性能提升，以及30-80倍的效率（性能/瓦特）提升。

每一個(gè)操作需要更少的晶體管，用更多精密且大功率的機(jī)器學(xué)習(xí)模型，并快速應(yīng)用這些模型，因此用戶便能得到更正確的結(jié)果。這就是TPU。

什么是NPU？

NPU（Neural network Processing Unit）， 也就是神經(jīng)網(wǎng)絡(luò)處理器。顧名思義，設(shè)計(jì)人員試圖用電路模擬人類的神經(jīng)元和突觸結(jié)構(gòu)。

在電路層模擬神經(jīng)元，通過(guò)突觸權(quán)重實(shí)現(xiàn)存儲(chǔ)和計(jì)算一體化，一條指令完成一組神經(jīng)元的處理，提高運(yùn)行效率。主要應(yīng)用于通信領(lǐng)域、大數(shù)據(jù)、圖像處理。

嵌入式神經(jīng)網(wǎng)絡(luò)處理器（NPU）采用“數(shù)據(jù)驅(qū)動(dòng)并行計(jì)算”的架構(gòu)，特別擅長(zhǎng)處理視頻、圖像類的海量多媒體數(shù)據(jù)。

NPU處理器專門為物聯(lián)網(wǎng)人工智能而設(shè)計(jì)，用于加速神經(jīng)網(wǎng)絡(luò)的運(yùn)算，解決傳統(tǒng)芯片在神經(jīng)網(wǎng)絡(luò)運(yùn)算時(shí)效率低下的問(wèn)題。

NPU處理器包括了乘加、激活函數(shù)、二維數(shù)據(jù)運(yùn)算、解壓縮等模塊。

乘加模塊用于計(jì)算矩陣乘加、卷積、點(diǎn)乘等功能，NPU內(nèi)部有64個(gè)MAC，SNPU有32個(gè)。

激活函數(shù)模塊采用最高12階參數(shù)擬合的方式實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)中的激活函數(shù)，NPU內(nèi)部有6個(gè)MAC，SNPU有3個(gè)。

二維數(shù)據(jù)運(yùn)算模塊用于實(shí)現(xiàn)對(duì)一個(gè)平面的運(yùn)算，如降采樣、平面數(shù)據(jù)拷貝等，NPU內(nèi)部有1個(gè)MAC，SNPU有1個(gè)。

解壓縮模塊用于對(duì)權(quán)重?cái)?shù)據(jù)的解壓。為了解決物聯(lián)網(wǎng)設(shè)備中內(nèi)存帶寬小的特點(diǎn)，在NPU編譯器中會(huì)對(duì)神經(jīng)網(wǎng)絡(luò)中的權(quán)重進(jìn)行壓縮，在幾乎不影響精度的情況下，可以實(shí)現(xiàn)6-10倍的壓縮效果。

神經(jīng)網(wǎng)絡(luò)中存儲(chǔ)和處理是一體化的，都是通過(guò)突觸權(quán)重來(lái)體現(xiàn)。而馮·諾伊曼結(jié)構(gòu)中，存儲(chǔ)和處理是分離的，分別由存儲(chǔ)器和運(yùn)算器來(lái)實(shí)現(xiàn)，二者之間存在巨大的差異。因此專門針對(duì)人工智能的專業(yè)芯片在具體的應(yīng)用領(lǐng)域比傳統(tǒng)芯片更有性能等方面的優(yōu)勢(shì)。

什么是IPU？

傳統(tǒng)意義上的IPU（Image Processing Unit），圖像處理單元，是圖像識(shí)別SoC的重要組成部分。

圖像處理單元的目標(biāo)是提供從圖像輸入（攝像頭傳感器 / 電視信號(hào)輸入等）到顯示設(shè)備（LCD顯示屏 / TV輸出 / 外部圖像處理單元等）端到端的數(shù)據(jù)流信號(hào)處理的全面支持。

IPU庫(kù)（IPU Library）是基于IPU硬件的，它能實(shí)現(xiàn)以下功能：

1、調(diào)整大小。

2、旋轉(zhuǎn)。

3、色彩空間 / 格式轉(zhuǎn)換。

4、以同樣大小的窗口，支持色鍵和α混合疊加組合。

5、在IPU處理后，直接輸出顯示到幀緩沖區(qū)。

6、兩個(gè)輸出處理來(lái)自一個(gè)輸入。

7、窗口切割。

8、局部 α 混合。

在IPU處理內(nèi)，IPU庫(kù)采取三種操作緩沖區(qū)的方式：

1、輸入緩沖區(qū)，包含需要處理的數(shù)據(jù)，用戶可以自己分配或者由IPU庫(kù)分配。

2、輸出緩沖區(qū)，包含來(lái)自輸入緩沖區(qū)已經(jīng)處理完成的數(shù)據(jù)，用戶可以自己分配

或者由IPU庫(kù)分配；如果用戶想將輸出顯示指向幀緩沖區(qū)，然后用戶就不需要分配它們，幀緩沖區(qū)現(xiàn)在已經(jīng)是輸出緩沖區(qū)了。

3、覆蓋緩沖區(qū)，包含要處理和組合的數(shù)據(jù)。

（注意：這三個(gè)緩沖區(qū)是連續(xù)的。）

對(duì)于IPU緩沖區(qū)有兩種操作模式：

1、流模式，在IPU低級(jí)操作里將使用雙緩沖區(qū)。

2、正常模式，在IPU低級(jí)操作里將使用單緩沖區(qū)。

Tip：

以上提到的IPU是傳統(tǒng)意義上的IPU，2021年8月英特爾發(fā)布了兩款新的IPU（Infrustracture Processing Unit），架構(gòu)處理器，讓各類網(wǎng)絡(luò)服務(wù)運(yùn)作過(guò)程可降低CPU資源占用比重。在定位上與英偉達(dá)提出的DPU（Data Processing Unit）相類似。

哦對(duì)了，Graphcore 此前也開發(fā)了一款I(lǐng)PU，智能處理單元（intelligence processing unit），用于改善AI性能，實(shí)現(xiàn)AI技術(shù)。

目前看來(lái)，或許X PU的前綴字母已經(jīng)不夠用了。當(dāng)然，這也是各大廠商希望自己與其他家產(chǎn)品區(qū)分開的結(jié)果。我們真的需要這么多X PU嗎？大浪淘沙，時(shí)間自然會(huì)給我們答案。

X PU大致一覽

APU -- Accelerated Processing Unit, 加速處理器，AMD公司推出加速圖像處理芯片產(chǎn)品。

BPU -- Brain Processing Unit, 地平線公司主導(dǎo)的嵌入式處理器架構(gòu)。

CPU -- Central Processing Unit 中央處理器， 目前PC core的主流產(chǎn)品。

DPU -- Deep learning Processing Unit, 深度學(xué)習(xí)處理器，最早由國(guó)內(nèi)深鑒科技提出；另說(shuō)有Dataflow Processing Unit 數(shù)據(jù)流處理器， Wave Computing 公司提出的AI架構(gòu)；Data storage Processing Unit，深圳大普微的智能固態(tài)硬盤處理器。

FPU -- Floating Processing Unit 浮點(diǎn)計(jì)算單元，通用處理器中的浮點(diǎn)運(yùn)算模塊。

GPU -- Graphics Processing Unit, 圖形處理器，采用多線程SIMD架構(gòu)，為圖形處理而生。

HPU -- Holographics Processing Unit 全息圖像處理器， 微軟出品的全息計(jì)算芯片與設(shè)備。

IPU -- Intelligence Processing Unit， Deep Mind投資的Graphcore公司出品的AI處理器產(chǎn)品。

MPU/MCU -- Microprocessor/Micro controller Unit， 微處理器/微控制器，一般用于低計(jì)算應(yīng)用的RISC計(jì)算機(jī)體系架構(gòu)產(chǎn)品，如ARM-M系列處理器。

NPU -- Neural Network Processing Unit，神經(jīng)網(wǎng)絡(luò)處理器，是基于神經(jīng)網(wǎng)絡(luò)算法與加速的新型處理器總稱，如中科院計(jì)算所/寒武紀(jì)公司出品的diannao系列。

RPU -- Radio Processing Unit, 無(wú)線電處理器， Imagination Technologies 公司推出的集合集Wifi/藍(lán)牙/FM/處理器為單片的處理器。

TPU -- Tensor Processing Unit 張量處理器， Google 公司推出的加速人工智能算法的專用處理器。目前一代TPU面向Inference，二代面向訓(xùn)練。

VPU -- Vector Processing Unit 矢量處理器，Intel收購(gòu)的Movidius公司推出的圖像處理與人工智能的專用芯片的加速計(jì)算核心。

WPU -- Wearable Processing Unit， 可穿戴處理器，Ineda Systems公司推出的可穿戴片上系統(tǒng)產(chǎn)品，包含GPU/MIPS CPU等IP。

XPU -- 百度與Xilinx公司在2017年Hotchips大會(huì)上發(fā)布的FPGA智能云加速，含256核。

ZPU -- Zylin Processing Unit, 由挪威Zylin 公司推出的一款32位開源處理器。

審核編輯：湯梓紅