（電子發(fā)燒友網(wǎng)綜合報道）NPU是一種專門用于加速神經(jīng)網(wǎng)絡(luò)計(jì)算的硬件處理器。隨著人工智能和深度學(xué)習(xí)技術(shù)的快速發(fā)展，傳統(tǒng)的CPU和GPU在處理復(fù)雜的神經(jīng)網(wǎng)絡(luò)計(jì)算時顯得力不從心，NPU正是為了解決這一問題而設(shè)計(jì)的。

NPU是如何發(fā)展起來的

早在2011年，Google就提出了利用大規(guī)模神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像識別的技術(shù)，并在2012年的ImageNet大賽中取得了顯著成績，這標(biāo)志著深度學(xué)習(xí)技術(shù)的崛起。

隨著深度學(xué)習(xí)技術(shù)的不斷發(fā)展，傳統(tǒng)的CPU和GPU在處理大規(guī)模神經(jīng)網(wǎng)絡(luò)計(jì)算時逐漸顯得力不從心，迫切需要更加高效的計(jì)算單元來支持。

為了滿足深度學(xué)習(xí)計(jì)算的需求，NPU應(yīng)運(yùn)而生。NPU是一種專門用于加速神經(jīng)網(wǎng)絡(luò)計(jì)算的處理器，它采用并行計(jì)算架構(gòu)，能夠顯著提高計(jì)算效率。

2016年，Google發(fā)布了TPU芯片，這是全球首款商用化的NPU產(chǎn)品。TPU在深度學(xué)習(xí)計(jì)算中表現(xiàn)出色，為NPU的商業(yè)化應(yīng)用奠定了基礎(chǔ)。隨后，英偉達(dá)、AMD、英特爾等科技巨頭也紛紛推出了自己的NPU產(chǎn)品，推動了NPU市場的快速發(fā)展。

在智能手機(jī)領(lǐng)域，NPU的應(yīng)用也逐漸興起。2016年前后，寒武紀(jì)發(fā)布了全球首款商用終端AI處理器，為手機(jī)AI計(jì)算提供了強(qiáng)大的硬件支持。

2017年，華為在Mate10中首次搭載了集成AI模塊的麒麟970處理器，標(biāo)志著手機(jī)AI時代的到來。隨后，蘋果、三星等廠商也相繼推出了搭載NPU的智能手機(jī)產(chǎn)品。

隨著技術(shù)的不斷進(jìn)步，NPU的性能和功能也得到了顯著提升。高通、聯(lián)發(fā)科等芯片廠商在NPU領(lǐng)域進(jìn)行了大量研發(fā)投入，推出了多代NPU產(chǎn)品，如高通的HexagonNPU系列。HexagonNPU在性能、功耗、靈活性等方面均表現(xiàn)出色，為智能手機(jī)、物聯(lián)網(wǎng)設(shè)備等終端產(chǎn)品提供了強(qiáng)大的AI計(jì)算能力。

NPU的性能指標(biāo)

NPU的性能通常受到多個因素的影響，算力是衡量NPU性能的關(guān)鍵指標(biāo)，通常以每秒能夠執(zhí)行的浮點(diǎn)運(yùn)算次數(shù)（FLOPS）或整數(shù)運(yùn)算次數(shù)（IOPS）來衡量。在AI芯片中，算力往往以TOPS（TeraOperationsPerSecond，即每秒萬億次運(yùn)算）來表示。

算力的高低直接影響NPU處理神經(jīng)網(wǎng)絡(luò)任務(wù)的速度和效率。算力越高，NPU在同一時間內(nèi)能夠完成的計(jì)算量就越大，從而能夠更快地處理復(fù)雜的神經(jīng)網(wǎng)絡(luò)任務(wù)。

NPU的工作頻率是另一個重要的性能指標(biāo)，它影響著處理器的運(yùn)算速度。頻率取決于制成節(jié)點(diǎn)和NPU設(shè)計(jì)，不同的NPU之間可能存在差異。更高的頻率允許NPU在單位時間內(nèi)執(zhí)行更多運(yùn)算，從而提高處理速度。然而，提高頻率也會導(dǎo)致更高功耗和發(fā)熱，影響電池續(xù)航和用戶體驗(yàn)。因此，在設(shè)計(jì)NPU時需要在性能和功耗之間找到平衡點(diǎn)。

NPU擁有大量并行運(yùn)算核心，能夠支持高效的并行處理。這是NPU在處理神經(jīng)網(wǎng)絡(luò)任務(wù)時的一個重要優(yōu)勢。并行計(jì)算能力越強(qiáng)，NPU就越能夠同時處理多個計(jì)算任務(wù)或數(shù)據(jù)點(diǎn)，從而提高整體計(jì)算效率。這對于處理大規(guī)模神經(jīng)網(wǎng)絡(luò)和復(fù)雜數(shù)據(jù)集尤為重要。

作為嵌入式設(shè)備中的一個組成部分，NPU的功耗也是一個不可忽視的性能指標(biāo)。功耗是指NPU在運(yùn)行過程中消耗的能量。低功耗可以使得NPU更適用于移動設(shè)備和邊緣計(jì)算場景。在設(shè)計(jì)NPU時需要考慮如何在保持高性能的同時降低功耗，以延長設(shè)備的使用時間和提高用戶體驗(yàn)。

精度指計(jì)算的顆粒度，通常精度越高模型準(zhǔn)確性就越高，但需要的計(jì)算強(qiáng)度也越高。常見的精度包括32位和16位浮點(diǎn)精度，以及速度更快的低精度低功耗模型通常使用的8位和4位整數(shù)精度。選擇適當(dāng)?shù)木葘τ谄胶釴PU的性能和功耗至關(guān)重要。高精度可以提高模型的準(zhǔn)確性，但會增加計(jì)算復(fù)雜度和功耗；而低精度雖然可以降低功耗和計(jì)算復(fù)雜度，但可能會犧牲一定的模型準(zhǔn)確性。

內(nèi)存帶寬決定了NPU能夠從內(nèi)存中獲取數(shù)據(jù)的速度。如果內(nèi)存帶寬不足，NPU可能會因?yàn)榈却龜?shù)據(jù)而空閑，從而降低整體性能。

軟件優(yōu)化也是影響NPU性能的重要因素。通過對算法和代碼進(jìn)行優(yōu)化，可以充分利用NPU的計(jì)算資源，提高計(jì)算效率和準(zhǔn)確性。

寫在最后

在現(xiàn)代芯片設(shè)計(jì)中，NPU往往被集成到SoC中，作為SoC的一個重要組成部分。這種集成方式使得SoC在保持其高集成度、低功耗等優(yōu)勢的同時，能夠進(jìn)一步擴(kuò)展其在人工智能領(lǐng)域的應(yīng)用能力。

例如，在智能手機(jī)、物聯(lián)網(wǎng)設(shè)備等應(yīng)用中，NPU常常被集成到SoC中，以提供高效的AI處理能力。這種集成方式不僅有助于提升設(shè)備的整體性能，還能夠降低設(shè)計(jì)成本和功耗。

當(dāng)NPU被集成到SoC中時，它可以與其他功能模塊（如CPU、GPU、存儲器等）協(xié)同工作，共同完成復(fù)雜的計(jì)算任務(wù)。CPU負(fù)責(zé)處理通用計(jì)算任務(wù)，GPU負(fù)責(zé)圖形渲染和大規(guī)模并行計(jì)算任務(wù)，而NPU則專注于神經(jīng)網(wǎng)絡(luò)計(jì)算任務(wù)。這種協(xié)同工作的方式能夠充分發(fā)揮各個功能模塊的優(yōu)勢，提高整體計(jì)算效率。

隨著人工智能技術(shù)的不斷發(fā)展，NPU在SoC中的應(yīng)用場景也越來越廣泛。在智能手機(jī)中，NPU可以用于實(shí)現(xiàn)AI拍照、語音助手等功能；在物聯(lián)網(wǎng)設(shè)備中，NPU可以用于實(shí)現(xiàn)智能識別、自動控制等功能；在自動駕駛汽車中，NPU則可以用于實(shí)現(xiàn)視覺識別、路徑規(guī)劃等任務(wù)。