隨著 AI 技術(shù)不斷迭代更新，對底層算力的需求也越來越大。 2020 年 7 月 9 日，英偉達市值首次超過英特爾，成為半導(dǎo)體領(lǐng)域市值第二的企業(yè)（第一名是臺積電）。 有關(guān)人士分析，英偉達的崛起離不開 AI 產(chǎn)業(yè)的發(fā)展。英偉達主攻的 GPU 在算力上約超出 CPU 2~3 個數(shù)量級，與 AI 產(chǎn)業(yè)結(jié)合效果更佳，這也是英偉達能夠在當(dāng)前市場以底層算力芯片贏得高速發(fā)展的重要原因。 但是，算力更強的 GPU 芯片也暴露出另一個顯著問題：利用率低。 “AWS 在 2018 年放出的一組數(shù)據(jù)顯示，其 GPU 產(chǎn)品平均利用率僅為 10~30%。國內(nèi)有不少用戶的利用率甚至不足 10%，對這些用戶而言，一枚售價 1 萬美元的芯片其中 9000 美元是浪費的。幫助企業(yè)提高 GPU 的使用效率成了新的市場風(fēng)口。”趨動科技創(chuàng)始人王鯤博士介紹到。 在此背景下，王鯤于 2019 年創(chuàng)辦了趨動科技，一家 AI 算力資源池化軟件公司。

王鯤，趨動科技創(chuàng)始人兼 CEO，中國科技大學(xué)博士。

十四歲考取中國科技大學(xué)計算機系，在創(chuàng)業(yè)前擔(dān)任 Dell EMC 中國研究院院長。

長期從事計算機體系結(jié)構(gòu)、GPU 和 FPGA 虛擬化以及分布式系統(tǒng)等領(lǐng)域的研究工作，在業(yè)界最早開始推動 FPGA 虛擬化相關(guān)研究。

曾獲 2005 年微軟學(xué)者獎學(xué)金，2005 年中國科學(xué)院院長獎學(xué)金，2006 年中國科學(xué)院優(yōu)秀博士論文以及 2007 年全國優(yōu)博士論文提名獎。

在下文中，順為君對趨動科技創(chuàng)始人兼 CEO王鯤博士進行了一個簡要的訪談，你將了解：

什么是 AI 算力資源池化？

該行業(yè)的技術(shù)壁壘在哪里？

為何在這個行業(yè)中趨動科技基本沒有競爭對手？

1. 一年前，是什么樣的契機讓您決定創(chuàng)立趨動科技，專注于 AI 算力池化這一領(lǐng)域呢？

幾乎每一個投資人都會問我為什么創(chuàng)業(yè)這個問題。 我05 年從中科大博士畢業(yè)以后去 500強的外企做了 10 多年計算機體系結(jié)構(gòu)的研究工作，創(chuàng)業(yè)前是一家外企中國研究院的院長，負責(zé)整個研究院在中國區(qū)相關(guān)的研究工作和項目，職位和收入都很好。所以我創(chuàng)業(yè)的風(fēng)險其實是很大的，機會成本也很高，而且我之前沒有創(chuàng)業(yè)經(jīng)歷。 有幾個點決定了我想去創(chuàng)業(yè)。 第一個是當(dāng)時我看到了我們今天做的技術(shù)，GPU 資源池化的技術(shù)，本質(zhì)上做的是一個軟件定義的 GPU，未來也會支持軟件定義的其他加速芯片。我看到這個方向，未來一定是有巨大的需求，同時這個方向我們并沒有看到市場上有相應(yīng)的供給，也就是說沒有很多的競爭對手。 沒有競爭對手最主要的原因，是因為這個方向技術(shù)難度非常大，有能力做的團隊很少。所以第一個原因是我認定這個技術(shù)未來有巨大的市場需求，是一個藍海的市場。 第二個原因是我第一次創(chuàng)業(yè)，沒有人能夠保證創(chuàng)業(yè)一定會成功，所以我也不能保證我一定能成功，但是我知道如果我不出來做這件事情，那一定會出現(xiàn)另一家公司來做我們今天做的事情，并且會做成一家偉大的公司。 所以我不希望到時候后悔，不希望若干年以后覺得自己也有機會，但是卻沒有努力嘗試。主要是基于這兩個原因。

2. 目前國內(nèi) GPU 資源池化技術(shù)的市場規(guī)模如何？前景在哪里？如想趕超美國的同樣水平技術(shù)，大致還需要多久？

從全球的角度來看，這個市場規(guī)模未來應(yīng)該是個百億美金量級的規(guī)模。

這是參照今天的 CPU 虛擬化的市場來評估的。軟件是助力硬件的，所以硬件的市場決定了軟件市場的規(guī)模。目前服務(wù)器CPU的市場規(guī)模為 200 億美元左右，CPU 虛擬化軟件的市場規(guī)模為 80 億美元左右，這是一個大概 40% 的關(guān)系。

今天我們軟件支持 GPU，而 GPU 只是 AI 加速器的一部分，未來有越來越多的 AI加速芯片，像寒武紀，華為、燧原等等各種新的芯片出來以后，這個市場的規(guī)模在未來幾年，我們預(yù)判是很有可能超過整個 CPU 的市場，對應(yīng)的軟件的規(guī)模就應(yīng)該也會超過 80 億美元，所以我們判斷它是一個百億美元左右的市場，應(yīng)該是差距不會很大。

再回到中國的市場來看，中國的 GPU 市場目前大約占全球市場的 30% 到 40%，這個占比還在不斷提高。

中國的軟件產(chǎn)業(yè)目前在高速發(fā)展，在很多應(yīng)用領(lǐng)域取得了很好的成績，隨著信息化和數(shù)字化轉(zhuǎn)型的不斷深入，應(yīng)用軟件發(fā)展的非常好。我們來看基礎(chǔ)軟件特別是底層架構(gòu)這塊目前基本上全部是國外軟件的天下。我們熟知的桌面操作系統(tǒng)、服務(wù)器端操作系統(tǒng)以及 CPU 虛擬化軟件都被國外產(chǎn)品壟斷。隨著國家對科技創(chuàng)新的不斷重視，以及新基建的推進，本土科創(chuàng)企業(yè)在快速發(fā)展。我們今天作為趨動人，非常自豪地說在AI算力資源池化、虛擬化領(lǐng)域，我們走在了行業(yè)前面，處于全球領(lǐng)先的地位。

100 多年來的前三次工業(yè)革命，中國都是被動地跟隨，開啟近代化歷程，而面對這次以 AI 為代表的第四次工業(yè)革命，中國有很大的機會成為引領(lǐng)者，改變世界科技格局：中國崛起，領(lǐng)跑世界。將來中國不但要成為世界第一，而且要習(xí)慣于成為世界第一。

中國自身也的確具備領(lǐng)跑人工智能的條件和潛力。目前全球人工智能企業(yè)最為集中的三個國家分別為美國、中國、英國，三國的人工智能企業(yè)數(shù)量占全球總數(shù)的 65.73%。中國人工智能專利申請數(shù)位列全球第二，中國人工智能論文引用量排名世界第一，中國人工智能領(lǐng)域融資規(guī)模世界領(lǐng)先，這些數(shù)據(jù)的背后是中國強大人工智能實力的彰顯，也決定了中國將憑借人工智能登上世界科技舞臺。

3. 在這個行業(yè)中，您覺得趨動科技作為其中一位佼佼者，最需要建立起的壁壘是什么？

趨動科技的核心優(yōu)勢是技術(shù)，如何保持我們在技術(shù)上的領(lǐng)先，是我們整個公司頭等重要的任務(wù)。我們要不停地突破自己，整個公司要不斷地顛覆自己，要去尋找新的藍海市場。與此同時我們要求每位同事也要不停地突破自己。

可以這么講，我們今天做的每一件事情差不多都是這個領(lǐng)域的先行者，沒有人可以教我們，我們都得靠自己去突破那些技術(shù)挑戰(zhàn)。所以我們招聘的每位員工，尤其是研發(fā)的同事，我們的核心要求是兩點，第一點是要有意愿學(xué)新技術(shù)，第二點是要有能力學(xué)新技術(shù)。在趨動科技我們永遠都要去學(xué)習(xí)新的技術(shù)，應(yīng)用新的技術(shù)，把這個新的技術(shù)放到我們產(chǎn)品里去解決新的問題，創(chuàng)造新的價值。所以這對整個團隊來講是一個非常高的要求也是非常大的挑戰(zhàn)。但是正是因為如此，我們才非常有信心說，即便一直走下去，我們?nèi)匀荒軌虮３治覀冊诩夹g(shù)上的優(yōu)勢。

現(xiàn)在資源池化有哪些技術(shù)難點呢？

我們設(shè)想一個場景：比方說在一個 1000 張卡的 GPU 資源池，有兩個用戶都只需要用 0.2 張卡，20% 的資源就夠了。在這種情況下，如果你給每個用戶單獨分配一張整卡，資源就可能浪費了。所以要把這兩個用戶放在一張物理卡上，因為他們用不滿，放在一起不浪費資源。

在這種情況下，必須要做到這兩個用戶是互不干擾的，互相之間是要隔離的。

比方說 A 用戶的部分跑出錯了，crash 了，那不能影響B(tài)用戶；同樣的 B 用戶出問題了也不能影響 A 用戶。與此同時還得你給 A 多少資源，比方說 0.2 張卡的資源就不能用超，因為如果用超了，用到一整張卡，那第二個用戶就跑不起來了。所以這個資源的隔離是要做到的。

前面是一個例子，比如說0.2，那實際使用中這個粒度不一定是 0.2?？赡芤粋€是 0.05，一個是 0.15，另外一個是0.36。那這個粒度能做的越小實際上就越靈活，同時能不能支持用戶動態(tài)地變化很關(guān)鍵。比方說最開始的時候 0.2 張卡夠用了，但是用戶在跑應(yīng)用的過程中發(fā)現(xiàn) 0.2 張卡不夠用，能不能變成0.3，0.4，0.5？

這個就是一個動態(tài)伸縮，動態(tài)伸縮也是其中一個技術(shù)難點。

還有一個技術(shù)難點是把多個用戶放在一張卡上來共享的時候，這個資源池里面有 1000 張 GPU 卡，用戶的應(yīng)用程序就應(yīng)該可以使用這 1000張卡里面的任何一張，資源池的意思就是說里面的任何一張卡都應(yīng)該可以用，那么就會出現(xiàn)一種情況是跑應(yīng)用程序的機器和要用卡這個機器可能不是同一臺機器。也就是說程序跑在 A 服務(wù)器上，但是分配的這個卡有可能是 B 服務(wù)器的卡，這種可能性非常大。因為在資源池里也許別的卡都已經(jīng)被占了，只有這個 B 服務(wù)器有一張卡可以用。

這種情況我們稱之為遠程調(diào)用，本質(zhì)上就是一個 remote GPU，遠程 GPU 的性能優(yōu)化是非常難的，因為 GPU 上會進行大量的運算，這個運算的量級非常高，會有大量的數(shù)據(jù)傳輸。所以如果程序運行在一臺服務(wù)器，但是卻用另外一臺服務(wù)器的 GPU，性能是非常難以優(yōu)化的，這是一個非常大的技術(shù)挑戰(zhàn)。

我們趨動目前的產(chǎn)品，之所以在這個領(lǐng)域技術(shù)上是全世界領(lǐng)先，就是因為使用遠程GPU可以做到跟使用本地 GPU 的性能差距非常小，在網(wǎng)絡(luò)比較好的情況下可以做到性能差距在 2% 以內(nèi)，這就是一個非常非常小的差距。

4. 2020年中最難忘的事情是什么？

在產(chǎn)品研發(fā)的過程中，發(fā)生了一件我記憶深刻的事情。

我們知道國內(nèi)沒有公司在做同樣的產(chǎn)品，但是國外有公司在做類似功能的產(chǎn)品。我們產(chǎn)品開發(fā)基本完成之后，一直想測試一下我們獵戶座產(chǎn)品的性能，最好能和國外的產(chǎn)品對比一下，看看有什么要提高和改進的地方。

但是我們沒有辦法去測試國外的產(chǎn)品。結(jié)果非常湊巧，一個行業(yè)的專家解決了我們的問題。他通過自己的渠道測試了我們的產(chǎn)品和國外的產(chǎn)品，最后告訴我們，我們的產(chǎn)品主要性能指標(biāo)都優(yōu)于國外同類產(chǎn)品。那一刻，我們真的是非常激動，非常驕傲！

5. 在未來的幾年中，對趨動科技的發(fā)展有什么目標(biāo)嗎？

我們趨動科技未來主要有兩方面的規(guī)劃：

第一是保持大規(guī)模的研發(fā)投入，以確保技術(shù)層面的市場領(lǐng)先地位；

第二是加速商業(yè)化進程。

首先，我們的技術(shù)是領(lǐng)先的，我們要始終保持這種技術(shù)上的領(lǐng)先性，我們會持續(xù)加大研發(fā)投入，吸引最優(yōu)秀的人才加入我們，這始終是我們的核心要務(wù)之一。

我們目前產(chǎn)品設(shè)計是基于對算力的靈活調(diào)配，軟件定義算力，我們在云游戲這個賽道也發(fā)現(xiàn)了類似的需求，而我們的技術(shù)又有一部分是可以復(fù)用的，所以我們又進入了云游戲行業(yè)。我們現(xiàn)在支持云游戲的產(chǎn)品已經(jīng)在計劃中有條不紊的開發(fā)，在不久的將來也會發(fā)布我們云游戲的產(chǎn)品。未來除了 AI、云游戲、云 VR，只要是對算力有需求的行業(yè)，趨動都有可能會進入。

第二，我們已經(jīng)搭建了完整的售前、銷售、市場團隊，已經(jīng)在全國布局，高效地開展相關(guān)工作，我們會持續(xù)地加大市場方面的投入，加速商業(yè)化進程。

趨動科技剛剛完成了順為領(lǐng)投的 A 輪融資，從資本層面獲得了極大的助力，有利于實現(xiàn)剛剛提到的研發(fā)投入和加速商業(yè)化進程這兩個重要任務(wù)。

從我個人的角度，創(chuàng)業(yè)過程中每天都會遇到新的事情，新的情況，對我來說既是挑戰(zhàn)也是機遇，我希望能和我創(chuàng)立的趨動科技共同成長，共同見證中國 AI 產(chǎn)業(yè)的發(fā)展和領(lǐng)先、中國軟件產(chǎn)業(yè)的發(fā)展和領(lǐng)先以及中國整體科技力量的發(fā)展和領(lǐng)先，中國在過去的幾千年里面都是世界領(lǐng)先，我希望我們這一代人能夠親眼見證中國的科技重新回到世界的最前列。

原文標(biāo)題：百億美金規(guī)模的GPU資源池化技術(shù)，這家國產(chǎn)替代企業(yè)為何可以做到國際領(lǐng)先？｜順為系

文章出處：【微信公眾號：順為資本】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

責(zé)任編輯：haq