GPU市場增長與Mali? 技術的成功

2006年，圖形處理器（GPU）總出貨量約為1.35億，廣泛用于智能手機、DTV和平板電腦等多種設備。同年，ARM? 完成對挪威Falanx公司的收購，并獲得其移動GPU技術，完成對原有IP技術的擴展。10年后的今天，僅智能手機的全球出貨量就已達到15億臺（據(jù)ARM內部數(shù)據(jù)和Gartner數(shù)據(jù)顯示）；短短10年時間，ARM Mali技術也已成為全球出貨量第一的GPU，2015年總計出貨量超過7.5億。

本文將重點討論GPU市場、技術、應用案例，以及GPU爆炸式發(fā)展背后的深層原因。同時，文章還將簡述ARM Mali GPU及其架構在過去10年的演進，并介紹搭載全新Bifrost架構的Mali-G71。

API與制程節(jié)點開發(fā)

對圖形領域而言，2015年振奮人心——全新應用程序接口（API）的出現(xiàn)允許開發(fā)商將基礎圖形硬件發(fā)揮至技術允許的最高水平。

同年，Khronos團隊的工作引發(fā)有關Vulkan的熱烈討論。Vulkan是新一代OpenGL API，為新一代圖形API設計量身打造。Vulkan足以滿足全部需求，并徹底終結了OpenGL ES和OpenGL作為API各自為政的時代。

Vulkan于2016年2月正式發(fā)布，是首款按照開發(fā)商需求設計的Khronos API。它由游戲引擎開發(fā)商、芯片提供商、IP公司和操作系統(tǒng)供應商共同開發(fā)，以期打造兼顧各相關方需求的最佳解決方案。Vulkan API應運而生，采用全新異構系統(tǒng)，不僅內置多線程支持，而且可以最大程度發(fā)揮硬件一致性的優(yōu)勢。Vulkan屬于底層API，允許開發(fā)商自主決定硬件交互方式，并通過底層接入以找到最佳平衡點。

上述特性對虛擬現(xiàn)實（VR）等新興應用尤為重要，幫助開放商減少延遲，優(yōu)化圖形流水線。

對聚焦GPU運算應用的開發(fā)商來說，OpenCL 2的發(fā)布是一個重要節(jié)點，多項全新理念進一步簡化了高性能GPGPU應用的開發(fā)流程。虛擬存儲共享概念的提出可以說最為關鍵，允許CPU和GPU之間的虛擬地址共享。與硬件一致性結合后，細粒度緩沖器共享成為現(xiàn)實。該技術簡化了實現(xiàn)CPU和GPU工作負載共享所需的開發(fā)工作，因為兩者間的數(shù)據(jù)雙向傳輸不再是必要條件。

半導體制造工藝也經(jīng)歷了巨大革新。2014年，臺積電與三星推出20納米工藝節(jié)點，標志著平面工藝節(jié)點的10年歷史終于落幕。2015年，三星在Exynos 7420上使用全新14納米FinFet技術，臺積電緊隨其后，推出16納米FinFet工藝，并搭載于蘋果A9芯片。2016年，工藝節(jié)點獲得進一步完善，成本降低，產(chǎn)量增加。步入2017年， 10納米工藝節(jié)點也不再是夢想。

從GPU的角度看，工藝節(jié)點技術的進步對整個行業(yè)意義非凡。首先，工藝節(jié)點越先進，單位區(qū)域（或功耗）的晶體管密度就越大。GPU屬于并行處理器，只要架構擴展，性能就會隨之提升。然而，先進工藝節(jié)點對布線的擴展效果不如晶體管。恰恰相反，Ergo 工藝制程從28納米優(yōu)化至14納米，SoC設計師得以實現(xiàn)更高的晶體管密度，但卻不如布線的擴展。這意味著，如果設計10納米GPU時采用與28納米同樣的方法，設計結果必然會打折扣，因為晶體管和布線各有權衡，不盡相同。設計師常常需要妥協(xié)，使IP適應某個節(jié)點，這種權衡隨著先進工藝節(jié)點數(shù)量的增加變得愈加重要。

深入探討高端移動GPU的性能如何繼續(xù)提高之前，我們需要特別指出GPU性能從2011年到2016年提升了20倍這個有趣的事實。由于手機同時變得更加輕薄，因此該數(shù)字并不能代表技術進步的全景，但現(xiàn)代移動設備開發(fā)商對性能提升的渴求已經(jīng)可見一斑。

移動設備開發(fā)商不斷完善現(xiàn)有用例，開發(fā)顛覆性的新用例，以保持創(chuàng)新節(jié)奏，并從新一輪的性能升級中獲益。

案例開發(fā)

隨著移動平臺的發(fā)展，各類傳感器層出不窮。憑借飛速提升的系統(tǒng)性能、不斷改善的屏幕精度和日益增加的電池壽命，移動設備開發(fā)商已經(jīng)坐擁創(chuàng)新的最佳平臺。

增強現(xiàn)實（AR）可以充分挖掘并展現(xiàn)智能手機的強勁性能。AR的原理并不復雜，利用高級攝像頭捕捉圖像，經(jīng)過CPU、GPU、ISP、VPU和DPU，最后顯示在高清屏幕上。這個過程中，增強內容將覆蓋實際影像。根據(jù)應用目標的不同，物體識別、方位補償（使用電子羅盤和／或加速度計）或高級渲染技術都將各有用武之地。

一些人氣移動應用讓AR不再遠在天邊，并一舉進軍大眾市場，比如將濾鏡疊加在用戶臉部，然后生成圖片和視頻用于分享的Snapchat；以及讓用戶在真實地點看到動畫人物的Pokemon Go。無獨有偶，還有一些應用采取了更高級的AR技術，比如將攝像頭捕捉與3D物體相結合。這些創(chuàng)新用例層出不窮，并可以用于包括零售和高端游戲在內的各行各業(yè)。舉個例子，用戶可以使用移動設備查看家具是否與硬裝搭配，家具巨頭宜家就打算在2017年發(fā)布AR產(chǎn)品目錄。

虛擬現(xiàn)實已經(jīng)不算新理念了，但其核心技術卻仍在經(jīng)歷巨變。硬件設備已經(jīng)萬事俱備，擁有足夠強大的性能運行炫目的VR內容；一個適合創(chuàng)新的大規(guī)模開發(fā)商生態(tài)系統(tǒng)也已經(jīng)形成。這一點在移動平臺的體現(xiàn)格外深刻，因為人人都能用，且其移動性自身便是重要優(yōu)勢。與臺式機和游戲機不同，移動設備無拘無束。當然，實現(xiàn)這一點需要在設備上安裝各類傳感器。實際上，VR領域的許多重大突破都是在移動設備上實現(xiàn)的——利用VR技術增強用戶體驗的云霄飛車就是高性能移動應用的一個典型案例。

盡管推陳出新的顛覆式應用不斷刷新智能手機的使用方式，但我們經(jīng)常會忘記一點現(xiàn)實，最普遍的移動應用情景依然是網(wǎng)頁瀏覽和游戲。近幾年，屏幕分辨率和刷新率都得到提升，用戶界面（UI）的視覺效果和使用體驗也越來越自然。這些優(yōu)化對GPU提出了更高要求，成為成本導向型市場不小的挑戰(zhàn)。

移動設備已經(jīng)成為最主要的游戲平臺，由于移動游戲的便捷性，玩家人數(shù)持續(xù)增加，并進一步推動游戲數(shù)量的上升。從免費的獨立游戲到數(shù)百萬美元投資的工作室游戲，現(xiàn)代玩家有豐富的游戲類型、價格和質量等級可供選擇。隨著可選游戲數(shù)量的上升，視覺效果也得到顯著改善。GPU剛剛引入移動設備時，3D游戲簡單粗暴，不堪入目。而現(xiàn)在呢？游戲畫面豐富多彩，景色怡人，動態(tài)感十足，在上一代的手柄游戲機時代都是前所未聞的。

上圖是ARM演示團隊制作的三張示意圖。我們先來看看相對簡單（以今天的標準）的3D內容，演示游戲為2010年推出的True Force，運行于2011年款的Galaxy S2。每幀圖元16k，片段處理每像素時鐘周期3.7次，基于OpenGL ES 2.0。

3年后的2013年，OpenGL ES 3.0正式推出，改善了GPU 對GPU運算的支持（并不是OpenGL ES 3.0 API的主打特色，而隨OpenGL ES 3.1正式推出）；允許開發(fā)商使用更多高級渲染技術。結合基礎硬件后，視覺質量顯著提升。將Trollheim演示與TrueForce比較一下便可一目了然，前者的復雜性比后者高了不少。TrueForce的每幀圖元為16k，而Trollheim為150k，TrueForce的片段處理每像素時鐘周期為3.7次，而Trollheim則為16次。

2016年，Vulkan正式推出，API效率大幅提高，與OpenGL ES相比能夠以更低的開銷幫助開發(fā)商更好地發(fā)揮硬件性能。當然，硬件本身也快速發(fā)展，比較一下Lofoten和Trollheim演示，我們即可清楚地看到復雜度的提升：每幀圖元提高了300%，片段復雜度提高了150%。

智能手機設計的挑戰(zhàn)與趨勢

使用場景的變化僅是一個方面，移動設備本身也經(jīng)歷大幅升級。智能手機市場最初主打旗艦機型，隨著智能化程度的不斷提高，很多 PC特性已經(jīng)可以實現(xiàn)，但通訊依舊是其主要功能。然而，過去短短幾年間，智能手機用途不斷擴展，打電話已不再是智能手機的主要功能，圖像顯示成為了關注焦點。

過去，手機電池壽命一般用單次充電支持的通話時長來衡量，而現(xiàn)在的標準則是網(wǎng)絡瀏覽或高端游戲的續(xù)航時間。GPU與顯示性能一起備受關注。用戶希望體驗更高質量的視覺效果，到目前為止，這一目標都是經(jīng)由智能手機設計改善，以及顯示內容的美感和流暢性來實現(xiàn)，一個證據(jù)就是屏幕邊框變得越來越窄。市場的大致趨勢是朝著屏幕包裹設備的方向發(fā)展，設計美感更多由UI而非硬件來實現(xiàn)。下圖中，我們可以看出屏幕占整個設備的比例不斷增加。這一趨勢在三星Galaxy S7 Edge等機型上體現(xiàn)得尤為明顯，已經(jīng)實現(xiàn)屏幕對設備的全包裹。

除了打電話，現(xiàn)代智能手機還能提供極為豐富的功能，如郵件、社交媒體、導航定位、支付、瀏覽網(wǎng)頁、游戲、拍照和視頻等等。用戶在期待功能升級的同時，也希望電池壽命不斷延長。但是，即便使用當前所有最先進的技術，智能手機的電池容量還是要不斷增大，具體變化趨勢見下圖。

除了電池容量變大，智能手機還變得越來越薄。一些機型的厚度甚至已經(jīng)達到了7毫米以下，考慮到現(xiàn)代智能手機的技術含量，如此纖薄實在令人驚訝。

這樣的發(fā)展方向并非完全沒有弊端。屏幕增大導致電池尺寸變大，機身變薄，設備散熱能力下降，因為屏幕的散熱效率不如金屬機身。此外，機身變薄后，用以散熱的表面積也會減少?，F(xiàn)代高端智能手機的性能上限很大程度上被散熱能力牽制，如何保證機身內部元器件不因為高溫而受損則因此成為另一大挑戰(zhàn)。

現(xiàn)代智能手機裝有多種耗電發(fā)熱的核心元件，如攝像頭子系統(tǒng)、屏幕、調制解調器、Wi-Fi、非易失性存儲器、DRAM和主芯片本身（包括CPU、GPU和其他處理器）。因為總功耗一致，所以其中任何一個元件功耗的減少，都可以增加其他元件可以使用的配額，這也是系統(tǒng)功耗配比由用例決定的原因。

現(xiàn)代GPU非常復雜，嚴重依賴CPU運行驅動程序，以實現(xiàn)基于軟件與應用程序進行交互。多虧了Vulkan這樣的現(xiàn)代API，驅動程序的開銷下降了，但是CPU依然需要運行驅動程序，所以不能完全避免耗電。由于所有元件功耗預算共享，因此在CPU中使用的、用于GPU交互的功耗就是不能應用于GPU本身的功耗?；谏鲜鲈?，降低CPU功耗勢在必行，不僅是為GPU發(fā)展掃清瓶頸，更是要為盡可能的提高GPU可用功耗鋪平道路。

與之類似，在運行復雜3D游戲的現(xiàn)代系統(tǒng)中，GPU會消耗大量DRAM帶寬。由于要處理大量數(shù)據(jù)（上述提及的Lofoten每幀處理600，000個三角），消耗帶寬責無旁貸，但DRAM的讀寫本身就是耗電的過程，也需要占用系統(tǒng)的總功耗預算。減少DRAM帶寬可以降低其功耗，并用于其他元件。

現(xiàn)代智能手機的設計和日益復雜的用例對GPU提出了前所未有的挑戰(zhàn)。下一章，我們將介紹ARM新一代GPU和GPU架構是如何應對這些挑戰(zhàn)的。

為下一代設備打造的Mali-G71

Mali-G71是ARM最新推出的高性能GPU，也是首款基于全新Bifrost架構的GPU，性能和效率都獲得顯著提升。

Mali-G71是迄今為止ARM性能最高的GPU。為滿足現(xiàn)代用例所需性能，著色器核心數(shù)量從1擴展至32，幫助芯片制造商根據(jù)目標市場自主權衡性能和功耗。出于這個原因，我們認為Mali-G71將在各類應用中將大展拳腳。

如前文所述，智能手機的很多性能都受到散熱的限制，還有一些手機的限制因素則是成本，或者說是芯片尺寸。為了實現(xiàn)更高性，Mali-G71和Bifrost架構同時升級了能源效率（單位瓦特性能）和性能密度（單位芯片面積性能），幫助功耗與散熱性能遭遇挑戰(zhàn)的芯片制造商實現(xiàn)更高的GPU性能。相似條件下，Mali-G71的能源效率相較Mali-T880最多可提高20%，性能密度最多可提高40%。此外，外部存儲消耗的總帶寬降低20%，進一步減少整體系統(tǒng)功耗。

Bifrost架構發(fā)展

為了進一步說明Mali-G71為何具備遠超歷代ARM GPU的性能，我們首先來探討一下GPU架構本身，以及實現(xiàn)這些性能的設計方法。

Bifrost是ARM的第三代可編程的GPU架構，其研發(fā)知識與經(jīng)驗傳承自Utgard和Midgard GPU架構。

ARM的前兩代GPU架構——Utgard和Midgard都取得了巨大成功。它們專為新興的移動GPU市場打造，無論出貨量還是內部科技的運用都可圈可點。Utgard是ARM首款可編程GPU，支持GLES 2.x，片段著色器與頂點著色器相互獨立。Midgard則引入了統(tǒng)一著色器，支持GLES 3.x，并可與OpenCL 1.x Full Profile協(xié)同實現(xiàn)GPGPU運算。Midgard是一款前瞻性的GPU架構，甚至包括了一些可以支持Vulkan的功能特性?？紤]到這是5年前設計的架構，就足以成為了不起的成就。

然而，隨著內容和用例的改變，架構本身也必須進行根本性的升級，以適應各類下一代用例。

從頂層設計看，與Midgard架構相比，Bifrost的GPU內核沒有明顯變化。表面上依然包括多個可擴展的著色器核心、一個負責與驅動程序交互的任務管理器、一個負責處理內存頁表的MMU以及一個tiler（Bifrost 仍然是一個 Tile based 渲染架構），但全部模塊都獲得了顯著提升。

通過AMBA ACE或AXI-Lite與外界交互的L2子系統(tǒng)為支持AMBA 4 ACE專門設計，幫助Mali-G71徹底實現(xiàn)硬件一致性，并在GPU和CPU等其他單元之間實現(xiàn)了基于硬件的細粒數(shù)據(jù)透明共享。

我們對tiler做了重新設計，以支持一種全新的渲染流，即索引驅動的位置渲染。該技術的理念是將頂點著色分為兩部分以節(jié)省帶寬，因為無需讀寫屏幕上看不見的變化參數(shù)（varying）1；而且由于無需寫回不可見位置，帶寬可以得到進一步節(jié)省。

著色器核心本身的變化更為巨大。ARM在Bifrost中引入全新指令集，根據(jù)大量的內容和趨勢分析以及長年的行業(yè)經(jīng)驗開發(fā)。現(xiàn)代GPU的總體趨勢是執(zhí)行越來越多的復雜可編程著色器，通常通過算法完成并采用大量標量代碼。作為全新引擎的一部分，Bifrost采用全新的算法單元，以極高的效率執(zhí)行高級著色器核心。它們更容易擴展，如果未來需求有增加，該架構也可以輕松應對。

Bifrost的屬性（attribute）單元和變化參數(shù)單元相互獨立，這些操作在圖形處理中極為普遍，使用獨立的高度優(yōu)化硬件模塊更為合理。全新的指令集引入高效的四線程組以節(jié)省控制邏輯，并通過四線程組管理器將線程組切換至執(zhí)行引擎。我們還加入了一個控制架構以提高物理利用率。如上文所述，此特性對現(xiàn)代工藝節(jié)點非常重要。

Bifrost引入了名為子句著色器的概念，專門用于處理執(zhí)行引擎內部的布線密度問題。你可以將子句想象成一組連續(xù)自動執(zhí)行的指令，也就是說，一個子句的執(zhí)行不能被中斷，無論是分支（如分支只發(fā)生在子句邊界上）還是其他任何事件都無法中斷。這意味著子句是可以預測的，數(shù)據(jù)路徑周圍的控制邏輯變得更容易。比如說，你無需在子句內部更新程序計數(shù)器，因為GPU知道它會在執(zhí)行前（或執(zhí)行后）根據(jù)子句內部的指令數(shù)量向前推進。

對CPU而言，這一行為并不可取，因為CPU必須迅速處理分支，而且分支的出現(xiàn)并不偶然。但恰恰相反，對GPU而言，該技術又可以進一步優(yōu)化設計。請想象一組指令集正在經(jīng)過。連續(xù)的指令經(jīng)常使用上一條指令作為輸入（見下方一排中的多個ADD正在積累數(shù)據(jù)）。如果你經(jīng)常觀察到這一現(xiàn)象，而且你知道訪問暫存器組的代價非常高昂（因為這是一個巨大的存儲模塊），有一種方法來緩解這個問題，那就是巧妙地使用臨時寄存器來減少寄存器組的訪問量。由于寄存器是臨時的，數(shù)據(jù)只會在一個時鐘周期中保留，所以要想實現(xiàn)，子句必須確保在子句內部原子執(zhí)行。

請參考下圖的簡單著色器程序，從指令集的角度了解子句著色器的工作原理。需要指出的是，這是開發(fā)者所看不到的，由編譯器完成的。

總結

通過對Bifrost架構如何提高效率和性能的詳細解讀，我們可以清楚地了解Mali-G71具備哪些根本性的創(chuàng)新技術，以實現(xiàn)萬眾期待的GPU性能升級。通過支持全新的現(xiàn)代API（如Vulkan和OpenCL 2.0），Mali-G71有助于實現(xiàn)出色的新興應用場景體驗。ARM將繼續(xù)研發(fā)Bifrost架構，滿足下一代內容的需求并超越行業(yè)期待。2016年，更多新技術將現(xiàn)身ARM Mali 多媒體組件。