(電子發(fā)燒友網(wǎng)報道 文/章鷹）2020年，疫情過后，我們看到隨著AI芯片的發(fā)展，智慧醫(yī)療、智能工廠、智能5G網(wǎng)絡(luò)優(yōu)化都已經(jīng)成為可能。AI是新基建里的重要部分，而芯片則是AI新基建發(fā)力的重中之重。在AI應用的第一階段，應用場景主要為訓練和推理，在模型訓練方面，算法模型需要對海量數(shù)據(jù)進行處理；隨著算法模型應用趨于成熟，AI應用步入第二階段，AI算力基建偏向于推理芯片的建設(shè)。AI芯片作為AI應用落地重要支撐，出貨量與日俱增，但是對于行業(yè)的一些性能標準也急需要規(guī)范化。

8月8日，在2020全球人工智能和機器人峰會AI芯片專場上，地平線的聯(lián)合創(chuàng)始人兼技術(shù)副總裁黃暢博士，正式提出了面向芯片AI性能的MAPS測試方法。針對AI芯片落地應用，黃暢也給出了前沿思考。

“縱觀深度學習神經(jīng)網(wǎng)絡(luò)模型的發(fā)展演進，我們發(fā)現(xiàn)AI芯片面臨的一大挑戰(zhàn)，是算法演進速度遠超硬件改進速度，致使評估芯片AI性能的方法與算法發(fā)展之間存在脫節(jié)的現(xiàn)象“，黃暢在演講中表示。

黃暢指出，最近四年間AI算法精度和效率持續(xù)提升，2016年，語音合成革命性突破，機器和人聲難以分辨計算量巨大，無法實時完成計算；2017年，WaveNet到Parallel WaveNet，計算效率提升1000倍，GPU可以20倍實時運行計算方式改變，RNN到Dilated CNN 產(chǎn)品化。2018年，計算方式變化，Dilated CNN到Sparse RNN，手機CPU（驍龍808）可用。

黃暢分享說，從2016年到2018年，ImageNet精度趨近飽和，2017年最后一屆競賽計算效率優(yōu)化得到重視，在圖像識別領(lǐng)域，出現(xiàn)新卷積Depthwise convolution, 該結(jié)構(gòu)和常規(guī)卷積操作類似，可用來提取特征，但相比于常規(guī)卷積操作，其參數(shù)量和運算成本較低。業(yè)界推出SENet、DenseNet等輕量級網(wǎng)絡(luò)，而且還出現(xiàn)了NASNet，網(wǎng)絡(luò)結(jié)構(gòu)自動搜索。這種技術(shù)導致第一次算法超越算法專家。2019年，EfficientNet（谷歌大腦）出世，震驚整個行業(yè)，其基準網(wǎng)絡(luò)限定計算量，0.4GFLOPS，EfficientNet B0相對VGG19提升100%，每9個月翻番。

目前，業(yè)界尚缺乏一個與時俱進的，能夠有效評估芯片AI性能的標準。業(yè)界慣常使用的芯片評測標準有兩種，一是峰值算力，但峰值算力只反映AI芯片理論上的最大計算能力，而非在實際AI應用場景中的處理能力，具有很大的局限性；二是目前行業(yè)較為知名的基準測試組織MLPerf，其采用的模型少且更新速度滯后于算法演進的速度，無法及時反映算法效率的提升以及各種精度下芯片能夠達到的計算速度，因而無法描述芯片AI性能的全貌。

為了推動芯片AI性能評估方式與時俱進，地平線提出MAPS評測方法，為行業(yè)提供一個評估芯片AI性能的視角?！霸u估芯片AI性能，本質(zhì)上應該關(guān)注做AI任務的速度和精度，即‘多快’和‘多準’?！秉S暢介紹說：“MAPS評測方法，關(guān)注真實的用戶價值，將每顆芯片在‘快’和‘準’這兩個關(guān)鍵維度上的取舍變化直觀地展現(xiàn)出來，并在合理的精度范圍內(nèi)，評估芯片的平均處理速度。這個方法具有可視化和可量化的特點?！?/p>

作為 AI 領(lǐng)域的奧林匹克競賽，ImageNet 比賽產(chǎn)生了幾乎所有機器視覺中最重要的模型，它們在 ImageNet 上的精度可充分遷移到其他機器視覺任務（如物體檢測、語義分割等）。在 ImageNet 的主流精度范圍（75~80%）下，速度最快的模型所代表的點（由精度和幀率確定）所圍多邊形面積大小即為芯片處理ImageNet AI任務的能力大小，其公式為MAPS = 所圍面積 /（最高精度-最低精度）。在演講現(xiàn)場，黃暢還展示了MAPS評估方式在在ImageNet上的定義與主流芯片測試結(jié)果。

上圖為MAPS評估方式下主流芯片測試結(jié)果，右一折線為地平線最新一代芯片測試結(jié)果

黃暢指出，芯片AI效能三要素，主要是峰值算力、有效利潤率和AI算法效率的結(jié)合。算力部署在AI芯片上，根據(jù)架構(gòu)特點，解決一個復雜的問題，得到算法在芯片上的實際利用率，整體軟硬件架構(gòu)的整體功耗，2019年，AI算法在新卷積神經(jīng)網(wǎng)絡(luò)技術(shù)推動下，效率得到明顯提升。

黃暢舉例分析，他說：“自動駕駛或者機器人領(lǐng)域的話，輸入的數(shù)據(jù)是連續(xù)視頻，連續(xù)視頻之間有巨大冗余。那如何去利用這個冗余呢？算法就應該做相應的迭代，地平線采取的方法是把視頻序列當成是一個流，然后用更高效的算法去有針對性的處理真正在這個視頻中有變化的，有價值的信息，面對越來越復雜的場景的時候，算法還有持續(xù)的巨大的提升空間?！?/strong>