昨天，深耕人工智能加速器領(lǐng)域的 Imagination Technologies帶來了一款瞄準ADAS的神器----多核IMG Series4 NNA，號稱為ADAS而生的終極AI加速器！其多核算力可以高達600 TOPS！而且，它不止可以應(yīng)用在ADAS領(lǐng)域還可以應(yīng)用到更多領(lǐng)域！牛！

“汽車行業(yè)正處于變革的風(fēng)口浪尖，自動駕駛汽車和自動駕駛出租車等新的應(yīng)用場景對人工智能（AI）的性能水平提出了更高的要求，它們需要高的算力，為此，Imagination已經(jīng)與汽車行業(yè)和其他重視功能安全的行業(yè)中的領(lǐng)先企業(yè)和創(chuàng)新者展開了合作。Series4剛一推出就獲得了業(yè)界的認可，已經(jīng)有多家公司授權(quán)該IP?！盜magination Technologies產(chǎn)品管理部門總監(jiān)Gilberto Rodriguez在發(fā)布會上指出，“Series4 NNA擁有全新的多核架構(gòu)，可提供600 TOPS（每秒萬億次操作）甚至更高的超高性能，并且可為大型神經(jīng)網(wǎng)絡(luò)工作負載提供低帶寬和極低的延遲。”

對于汽車自動駕駛，要實現(xiàn)更高級的功能必須有強大的算力做保障，ABI Research智慧出行和汽車首席分析師James Hodgson表示預(yù)計到2027年左右，對ADAS的需求將增長兩倍，但汽車從L2和L3級ADAS向L4和L5級全自動駕駛演進的過程中，神經(jīng)網(wǎng)絡(luò)的廣泛應(yīng)用將是至關(guān)重要的因素。這些系統(tǒng)將要處理數(shù)以百計的復(fù)雜場景，從多個攝像頭和激光雷達等大量傳感器中提取數(shù)據(jù)，從多個攝像頭和激光雷達等大量傳感器中提取數(shù)據(jù)，從而實現(xiàn)自動代客泊車、十字路口管理和復(fù)雜城市環(huán)境安全導(dǎo)航等解決方案。而高性能、低延遲和高能效的結(jié)合將是實現(xiàn)高度自動駕駛的關(guān)鍵所在。 據(jù)Gilberto 介紹，Imagination自從2017年在業(yè)界率先推出NNA神經(jīng)網(wǎng)絡(luò)加速器以后，至今已經(jīng)是第三代產(chǎn)品，第一代第二代瞄準安防、消費電子等領(lǐng)域，已經(jīng)獲得很多公司的采用，對于NNA的未來規(guī)劃，Imagination一直在考慮如何可以執(zhí)行完整的網(wǎng)絡(luò)推理的同時滿足功能安全要求。Series4 NNA針對明確的場景需求，在內(nèi)核架構(gòu)上做了突破，從而大幅度提升了AI處理能效，為了這些突破，公司在Series3 NNA推出2年后才推出了4系列NNA。

據(jù)介紹，Series4 NNA有良好的可擴展性和靈活性，其多核架構(gòu)支持在多個內(nèi)核之間對工作負載進行靈活的分配和同步。Imagination的軟件提供了精細的控制能力，并通過對多個工作負載進行批處理、拆分和調(diào)度而提高了靈活性，現(xiàn)在可以在任意數(shù)量的內(nèi)核上使用。Series4可為每個集群配置 2個、4個、6個或者8個內(nèi)核。

Series4的每個單核能夠以不到一瓦的功耗提供12.5 TOPS的性能。舉例來說，一個8內(nèi)核集群可以提供100 TOPS的算力，那么，配有6個8核集群的解決方案就可以提供600 TOPS的算力。在AI推理方面，Series4 NNA的性能比嵌入式GPU快20倍以上，比嵌入式CPU快1000倍。

延遲是AI運算最關(guān)鍵的指標之一，Imagination通過將多個單核組成2核、4核、6核或8核的多核集群，所有內(nèi)核可以相互協(xié)作，并行處理一個任務(wù)，降低處理延遲，縮短響應(yīng)時間。例如，對于一個8核集群，理想情況下延遲會減少為單核獨立執(zhí)行時的1/8。 節(jié)省帶寬的專利技術(shù) 在進行人工智能計算中，帶寬是一個重要指標，如果能節(jié)省帶寬，則可以大幅度地提升能效，此外，據(jù)介紹，Imagination在4系列NNA使用了一個專利的技術(shù)--Tensor Tiling技術(shù)（Imagination’s Tensor Tiling，ITT），可以將帶寬使用減少90%！

Gilberto解釋說，在人工智能計算中，各層以融合內(nèi)核的形式運行在加速器的硬件流水線里，融合內(nèi)核之間的特征圖需要通過外部存儲進行交換，使用緊耦合的SRAM可以提升效率，通過tiling技術(shù)，充分利用緊耦合的SRAM來融合更多的層，更多的層被融合后，減少了需要通過外部存儲交換的特征圖。 這樣，通過對計算任務(wù)進行tiling，充分利用片上存儲，提升數(shù)據(jù)處理效率，并節(jié)省訪問外部存儲的帶寬。ITT利用本地數(shù)據(jù)的依賴性將中間數(shù)據(jù)保存在片上存儲器中，這樣可以最大限度地減少將數(shù)據(jù)傳輸至外部存儲器，從而將帶寬降低多達90％。ITT是一種可擴展的算法，在擁有大量輸入數(shù)據(jù)的網(wǎng)絡(luò)上具有顯著優(yōu)勢。 他舉例說明，這是沒有使用ITT的ResNetv2-50運算過程

這是使用了ITT的ResNetv2-50運算過程

此外，他指出Series4NNA在處理任務(wù)上也有很強的靈活性，任務(wù)可以在多個維度被拆分，例如所有NNA單核可以運行不同的工作負載，如下圖core 0 可以執(zhí)行A任務(wù)，core 1可以執(zhí)行B任務(wù)，core 2可以執(zhí)行C任務(wù)，core 3可以執(zhí)行D任務(wù)，也可以組合為一起共同執(zhí)行一個任務(wù)，或者為特定任務(wù)保留一個或一組單核。還可以在運行時動態(tài)分配，總之靈活性非常強。

可以按照場景需要實現(xiàn)延遲和吞吐量之間的平衡。

此外， Series4 NNA還可以和 Imagination 的GPU實現(xiàn)協(xié)同，進行更靈活的組合。

發(fā)力汽車ADAS

“Imagination和汽車領(lǐng)域的芯片廠商如TI、瑞薩等都有很好的長期合作，也了解芯片廠商以及一些造車新勢力的需求?！盜magination Technologies人工智能業(yè)務(wù)高級總監(jiān)Andrew Grant表示：“我們相信Series4 NNA將成為開發(fā)先進駕駛輔助系統(tǒng)和自動駕駛汽車的行業(yè)標準平臺。一些創(chuàng)新者已經(jīng)在著手打造支持下一代ADAS功能和自動駕駛汽車的芯片。任何希望在汽車領(lǐng)域扮演重要角色的公司或研發(fā)團隊是時候?qū)⑦@項技術(shù)集成至他們的平臺中了?！?/p>

據(jù)他介紹，Series4包含IP級別的安全功能且設(shè)計流程符合ISO 26262標準，可以幫助客戶獲得ISO 26262認證。ISO 26262是旨在解決汽車電子產(chǎn)品風(fēng)險的行業(yè)安全標準。Series4可以在不影響性能的情況下，安全地進行神經(jīng)網(wǎng)絡(luò)推理。硬件安全機制可以保護編譯后的網(wǎng)絡(luò)、網(wǎng)絡(luò)的執(zhí)行和數(shù)據(jù)處理管道。 他表示Series4 NNA是以軟核的RTL代碼形式提供給客戶的，Imagination的軟件工具可以輕松幫助客戶導(dǎo)入設(shè)計。

Imagination Technologies中國區(qū)戰(zhàn)略市場與生態(tài)高級總監(jiān)時昕博士表示中國車廠和一些造車新勢力在推進汽車智能駕駛方面力度很大，Imagination愿意以最新的技術(shù)和高性價比的IP幫助產(chǎn)業(yè)健康良性發(fā)展。

責(zé)任編輯：lq