在北京舉辦的NVIDIA GTC China會(huì)議中，無(wú)論是AI智能運(yùn)算，還是服務(wù)器數(shù)據(jù)中心、智能城市，甚至還有去年很火熱但是已經(jīng)很多人已經(jīng)支撐不下去的虛擬現(xiàn)實(shí)，看起來(lái)在很多內(nèi)心中依然是屬于圖形行業(yè)代表的NVIDIA已經(jīng)變得越來(lái)越豐滿，不過(guò)在這些新聞的背后，似乎還有更大膽的預(yù)言：摩爾定律已死，GPU最終會(huì)取代CPU。

摩爾定律是由英特爾（Intel）創(chuàng)始人之一戈登·摩爾（Gordon Moore）提出來(lái)的。其內(nèi)容為：當(dāng)價(jià)格不變時(shí)，集成電路上可容納的元器件的數(shù)目，約每隔18-24個(gè)月便會(huì)增加一倍，性能也將提升一倍。換言之，每一美元所能買到的電腦性能，將每隔18-24個(gè)月翻一倍以上。這一定律揭示了信息技術(shù)進(jìn)步的速度。

概要：CPU和GPU之所以大不相同，是由于其設(shè)計(jì)目標(biāo)的不同，它們分別針對(duì)了兩種不同的應(yīng)用場(chǎng)景。

盡管這種趨勢(shì)已經(jīng)持續(xù)了超過(guò)半個(gè)世紀(jì)，摩爾定律仍應(yīng)該被認(rèn)為是觀測(cè)或推測(cè)，而不是一個(gè)物理或自然法。然而，2010年國(guó)際半導(dǎo)體技術(shù)發(fā)展路線圖的更新增長(zhǎng)已經(jīng)放緩在2013年年底，之后的時(shí)間里晶體管數(shù)量密度預(yù)計(jì)只會(huì)每三年翻一番。

CPU和GPU之所以大不相同，是由于其設(shè)計(jì)目標(biāo)的不同，它們分別針對(duì)了兩種不同的應(yīng)用場(chǎng)景。CPU需要很強(qiáng)的通用性來(lái)處理各種不同的數(shù)據(jù)類型，同時(shí)又要邏輯判斷又會(huì)引入大量的分支跳轉(zhuǎn)和中斷的處理。這些都使得CPU的內(nèi)部結(jié)構(gòu)異常復(fù)雜。而GPU面對(duì)的則是類型高度統(tǒng)一的、相互無(wú)依賴的大規(guī)模數(shù)據(jù)和不需要被打斷的純凈的計(jì)算環(huán)境。于是CPU和GPU就呈現(xiàn)出非常不同的架構(gòu)。

GPU采用了數(shù)量眾多的計(jì)算單元和超長(zhǎng)的流水線，但只有非常簡(jiǎn)單的控制邏輯并省去了Cache。而CPU不僅被Cache占據(jù)了大量空間，而且還有有復(fù)雜的控制邏輯和諸多優(yōu)化電路，相比之下計(jì)算能力只是CPU很小的一部分

從上圖可以看出：Cache, local memory： CPU > GPU Threads(線程數(shù)): GPU > CPURegisters: GPU > CPU 多寄存器可以支持非常多的Thread，Thread需要用到register，Thread數(shù)目大，register也必須得跟著很大才行。SIMD Unit(單指令多數(shù)據(jù)流,以同步方式，在同一時(shí)間內(nèi)執(zhí)行同一條指令): GPU > CPU。 CPU 基于低延時(shí)的設(shè)計(jì)：

CPU有強(qiáng)大的ALU（算術(shù)運(yùn)算單元），它可以在很少的時(shí)鐘周期內(nèi)完成算術(shù)計(jì)算。當(dāng)今的CPU可以達(dá)到64bit 雙精度。執(zhí)行雙精度浮點(diǎn)源算的加法和乘法只需要1～3個(gè)時(shí)鐘周期。CPU的時(shí)鐘周期的頻率是非常高的，達(dá)到1.532～3gigahertz(千兆HZ, 10的9次方)，大的緩存也可以降低延時(shí)。保存很多的數(shù)據(jù)放在緩存里面，當(dāng)需要訪問(wèn)的這些數(shù)據(jù)，只要在之前訪問(wèn)過(guò)的，如今直接在緩存里面取即可。復(fù)雜的邏輯控制單元。當(dāng)程序含有多個(gè)分支的時(shí)候，它通過(guò)提供分支預(yù)測(cè)的能力來(lái)降低延時(shí)。數(shù)據(jù)轉(zhuǎn)發(fā)。 當(dāng)一些指令依賴前面的指令結(jié)果時(shí)，數(shù)據(jù)轉(zhuǎn)發(fā)的邏輯控制單元決定這些指令在pipeline中的位置并且盡可能快的轉(zhuǎn)發(fā)一個(gè)指令的結(jié)果給后續(xù)的指令。這些動(dòng)作需要很多的對(duì)比電路單元和轉(zhuǎn)發(fā)電路單元。

GPU是基于大的吞吐量設(shè)計(jì)。GPU的特點(diǎn)是有很多的ALU和很少的Cache，緩存的目的是保存后面需要訪問(wèn)的數(shù)據(jù)的，這點(diǎn)和CPU不同，而是為Thread提高服務(wù)的。如果有很多線程需要訪問(wèn)同一個(gè)相同的數(shù)據(jù)，緩存會(huì)合并這些訪問(wèn)，然后再去訪問(wèn)dram（因?yàn)樾枰L問(wèn)的數(shù)據(jù)保存在dram中而不是Cache里面），獲取數(shù)據(jù)后Cache會(huì)轉(zhuǎn)發(fā)這個(gè)數(shù)據(jù)給對(duì)應(yīng)的線程，這個(gè)時(shí)候是數(shù)據(jù)轉(zhuǎn)發(fā)的角色。但是由于需要訪問(wèn)dram，自然會(huì)帶來(lái)延時(shí)的問(wèn)題。GPU的控制單元（左邊黃色區(qū)域塊）可以把多個(gè)的訪問(wèn)合并成少的訪問(wèn)。

GPU雖然有dram延時(shí)，卻有非常多的ALU和非常多的Thread，為了平衡內(nèi)存延時(shí)的問(wèn)題，我們可以中充分利用多的ALU的特性達(dá)到一個(gè)非常大的吞吐量的效果。盡可能多的分配Threads。通常來(lái)看GPU ALU會(huì)有非常重的pipeline就是因?yàn)檫@樣。所以CPU擅長(zhǎng)邏輯控制，串行的運(yùn)算。和通用類型數(shù)據(jù)運(yùn)算不同，GPU擅長(zhǎng)的是大規(guī)模并發(fā)計(jì)算，這也正是密碼破解等所需要的。所以GPU除了圖像處理，也越來(lái)越多的參與到計(jì)算當(dāng)中來(lái)。

什么類型的程序適合在GPU上運(yùn)行？

（1）計(jì)算密集型的程序。所謂計(jì)算密集型(Compute-intensive)的程序，就是其大部分運(yùn)行時(shí)間花在了寄存器運(yùn)算上，寄存器的速度和處理器的速度相當(dāng)，從寄存器讀寫數(shù)據(jù)幾乎沒(méi)有延時(shí)。可以做一下對(duì)比，讀內(nèi)存的延遲大概是幾百個(gè)時(shí)鐘周期；讀硬盤的速度就不說(shuō)了，即便是SSD， 也實(shí)在是太慢了。

（2）易于并行的程序。GPU其實(shí)是一種SIMD(Single Instruction Multiple Data)架構(gòu)， 他有成百上千個(gè)核，每一個(gè)核在同一時(shí)間最好能做同樣的事情。