第二代異構計算與未來應用愿景

如果說以GPGPU為主，大幅度提高系統(tǒng)浮點運算能力是第一代異構加速計算的典型特征的話，我們現(xiàn)在可以基本總體出以FPGA為主，所謂的第二代異構計算的一些重要特征：第一：具備緩存一致性的內存訪問能力，這是最為重要的特征，與第一代異構計算有了本質的不同，并對應用編程具備了明顯的友好性；第二：基于FPGA可靈活配置加速模塊，毫無疑問，在第二代異構計算中，F(xiàn)PGA將是一大主角，它本身靈活的可編程性為應用加速提供了豐富的應用場景；第三、它將隆重開啟整數(shù)運算加速的大門，隨著FPGA編程的便利性進一步提高，F(xiàn)PGA的整數(shù)型加速將會迅速普及（當然絕不是說FPGA不能用于浮點加速，只是看應用比例），這對于當前的大數(shù)據(jù)、海量視頻處理、圖像匹配等新興需求不謀而合，就像當初GPGPU與科學計算的發(fā)展相得益彰一樣，第二代異構計算將把相應的整數(shù)型應用的性能帶到新的高度。

當然，看到這一趨勢的不僅僅是IBM與OpenPOWER，CPU巨頭英特爾以167億美元收購FPGA第二大廠Altera的用意也不言自明。在不久前結束的IDF15上（英特爾信息技術峰會2015美國站），英特爾正式發(fā)布了CPU通過QPI直聯(lián)FPGA的方案設計。

?

采用QPI接口與CPU互聯(lián)，明擺著是沖著緩存一致性而來，這與CAPI的思路異曲同工，并且在服務器的配置上給出了新的可能（比如FPGA芯片Socket化或直接板載），這與CAPI有了明顯的不同，可謂各有利弊，但共同點都是開啟了第二代異構計算的時代

當越來越多的FPGA加速芯片以各種緩存一致性的方式接入系統(tǒng)之后，由于FPGA的SRAM高速編程模式，理論上講FPGA可以迅速的且無限次的更新內置的AFU，以應對不同的應用加速需求。這就給我們打開了一個想像空間——能否像Docker管理容器鏡像那樣，基于云+端的概念建立起一個AFU鏡像的集散中心呢？事實上，OpenPOWER聯(lián)盟也正在為此而努力——建立AFU鏡像商店。

?

OpenPOWER CAPI-FPGA加速卡AFU鏡像商店的更新流程（筆者猜想繪制，謹供參考）

屆時，任何相關的開發(fā)者、ISV都可以將自己針對某些具體的FPGA卡（經CAPI認證）所編寫的AFU鏡像（其實就是FPGA的編程配置文件），上傳至AFU商店供其他用戶免費或有償使用。相關的AFU用戶則可以像Docker那樣，根據(jù)自己應用加速的需求與FPGA加速卡的型號，免費或付費下載相應的AFU鏡像，通過全局的管理平臺，分發(fā)給指定服務器上的CAPI更新控制器，由后者與指定的FPGA加速卡（一臺服務器可以有多塊加速卡，選擇更新）PSL內的AFU更新模塊一起加載AFU鏡像。加載的方式有兩種，一種是完整的FPGA重寫（所有的門電路重寫，包括PSL），另一種則是AFU單獨更新。前者需要重起服務器，而后者則可以在線動態(tài)更新。目前100萬門的FPGA的配置文件容量也就在50MB左右，由于是基于SRAM的硬件編程，100ms內即可更新完畢，用戶幾乎沒有察覺，但服務器的加速功能就已經完全改變了。

我們可以試想一下這樣的場景，對于某個內置CAPI+FPGA加速器的服務器集群，可以靈活的根據(jù)工作負載的需求改變FPGA中的AFU模塊，讓這個集群迅速具備針對新負載的加速能力，這對于集群高效的多場景靈活復用顯然是很有幫助的，而這種模式也是GPGPU、DSP、ASIC等加速方式很難做到的。

展望未來，從某種角度上講，GPGPU與FPGA在未來的應用系統(tǒng)中，將根據(jù)自身的特長有所側重。如果將CPU比作人的話，GPGPU更像是高級計算器，為人類提供強大的科學計算的能力，做好學術研究，而FPGA更像是為某類工作定制的效率工具，執(zhí)行大量的固定而高度重復化的工作，大幅度提高人類的日常生活與工作效率（比如洗衣機、生產機器人），而人在未來更多的就是負責管理，用好計算器與效率工具——CPU的角色相信也會如此，隨著技術的不斷發(fā)展，更多的浮點與整數(shù)運算任務將會被GPGPU、FPGA、DSP、ASIC等不同的加速器所分擔。

從第二代異構計算至第二代分布式計算？

基于上文所分析的CAPI+FPGA所展現(xiàn)出來的能力，我們進一步從單服務器延展至整個分布式計算的架構，這就需要我們從一個更為廣闊的全局視角來看待第二代異構計算所帶來的關鍵影響。不久前，IBM提出的“第二代分布式計算”理念也正是基于這一全局的層次來建立的（據(jù)說在9月16日會召開發(fā)布會進行專門的闡述 ）。

IBM中國研究院的高級研究員陳飛表示，IBM提出的第二代分布式計算要有四個重要的特征，第一個特征：加速器的軟硬件接口有統(tǒng)一的接口規(guī)范，以便于更好的協(xié)同管理與普適（第一代分布式計算的接口標準較為統(tǒng)一，畢竟只有CPU本身，相對更標準化），這方面CAPI就是一個標準化接口的嘗試。第二個特征：加速器可以被動態(tài)的在線被設備發(fā)現(xiàn)以及加載。比如不需要要求系統(tǒng)的重啟，但現(xiàn)在的加速器如果要改變功能，一般都要要求重啟，或者是重啟一些軟件服務，但CAPI+FPGA則沒有這個顧慮。第三個特征：分布式的系統(tǒng)要具備全局異構資源的調度能力，也就是說它能決定哪些應用運行在一個具有這種加速硬件的計算節(jié)點上，還是跑在一個普通的純CPU的計算節(jié)點上。第四個特征：應該軟件本身，具備兼容CPU運行模式和異構硬件運行模式的能力。

NVIDIA推出NVLINK互聯(lián)總線，除了可作為GPU之間的互聯(lián)外，還可用于CPU與GPU的互聯(lián)，并也將具備緩存一致性的內存訪問能力，IBM的POWER9處理器（預計2017年下半年發(fā)布）將具備這一接口，這就意味著在POWER9平臺上NVIDIA的GPU也會獲得與CAPI同樣的對等訪問能力，這樣的GPGPU加速能力也將是POWER9獨有的（在英特爾x86平臺上，與CPU的互聯(lián)連接仍然是傳統(tǒng)的PCIe模式，NVLINK僅用于NVIDIA GPU之間的互聯(lián)），對IBM所提出的第二代分布式計算理念無疑是一個有力支撐

從以上定義中，我們可以看出，正是CAPI+FPGA所具備的一些關鍵特性（緩存一致性、在線更新性、AFU替換能力等）為IBM所提出的第二代分布式計算打下了理論基礎。當然，對于這個定義，我仍然有一些異議，畢竟從總體上講，這個分布式處理的基礎架構與應用分布處理的模式，和第一代相比并沒有本質的不同，更多是分布式節(jié)點上處理模式的創(chuàng)新，并且由于加速體系標準的更加多樣化，也讓其普適性受到懷疑，除非有非常強大的全局管理平臺來屏蔽掉底層的硬件差異性，否則全局上的“加速孤島”現(xiàn)象不可避免（雖然對于具體的用戶來說，這可能不是問題）。

但是，不管怎樣，第二代異構計算的模式，的確打開了我們的想像空間，它是否真的帶來理想中的第二代分布式計算體系，還要看IBM、英特爾以及加速器、方案集成等前沿廠商的共同努力！不過，可以肯定的是，不管這種新興的處理模式將如何稱謂，它對于新時代下的信息處理平臺（大數(shù)據(jù)分析、物聯(lián)網(wǎng)、人工智能、機器學習等）所帶來的明顯幫助，以及為最終用戶創(chuàng)造的巨大價值，都將是毋庸置疑的！