近期，鄢貴海團隊研究成果在計算機體系結(jié)構(gòu)領(lǐng)域國際頂級期刊《IEEE Transactions on Computers》中發(fā)表。該研究主要圍繞KPU敏捷計算架構(gòu)展開，KPU具有超強異構(gòu)核集成和調(diào)度能力，在降低了規(guī)模限制的硬件成本和設(shè)計周期的同時，又可通過軟件編程實現(xiàn)不同功能的計算，具有較高的可擴展性和靈活性。中科馭數(shù)DPU芯片基于自研KPU架構(gòu)設(shè)計。以下是部分研究內(nèi)容：

————————

領(lǐng)域特定架構(gòu)技術(shù)顯著提升了計算性能。然而，隨著數(shù)據(jù)量呈指數(shù)增長以及應(yīng)用類型的豐富，面向某一特定計算操作的加速器難以處理復(fù)雜的工作負(fù)載和應(yīng)用需求，現(xiàn)有的加速器設(shè)計也難以滿足大規(guī)模數(shù)據(jù)計算需求。主要挑戰(zhàn)在于建立一個靈活的框架，能夠充分利用這些粗粒度的特定計算加速單元執(zhí)行復(fù)雜計算，同時避免硬件集成、編程、系統(tǒng)編譯和運行等引入的額外開銷。

核處理單元（Kernel Processing Unit, KPU）架構(gòu)基于“軟件定義加速器”方法實現(xiàn)，是一種為加速特定領(lǐng)域核心功能計算而設(shè)計的協(xié)處理器架構(gòu)，能夠有效解決“專用”的困境。KPU以功能核作為基本單元，直接對應(yīng)用中計算密集型應(yīng)用進行抽象核和高層綜合，實現(xiàn)以數(shù)據(jù)為中心的架構(gòu)“定制”。KPU具有超強異構(gòu)核集成和調(diào)度能力，一顆 KPU根據(jù)需求可以集成數(shù)十至數(shù)百個功能核。在運行機制上，KPU采用“數(shù)據(jù)驅(qū)動并行計算”的方式，運行過程中通過數(shù)據(jù)流來激活不同的功能核進行相應(yīng)計算。通過高層次綜合，既實現(xiàn)了領(lǐng)域內(nèi)硬件的統(tǒng)一，降低了規(guī)模限制的硬件成本和設(shè)計周期，又能通過軟件編程實現(xiàn)不同功能的計算；特定需求只需要增刪功能核的種類和數(shù)量即可。在整體計算效率提升百倍的前提下，仍然具有非常高的可擴展性和靈活性。

基于KPU架構(gòu)的思想，面向數(shù)據(jù)庫的KPU-SQL架構(gòu)的核心是設(shè)計統(tǒng)一的接口以整合所有數(shù)據(jù)查詢操作。在硬件架構(gòu)方面，KPU-SQL集成了多個獨立設(shè)計的查詢操作計算單元，通過對這些特定功能計算核的充分優(yōu)化，最大程度上提升數(shù)據(jù)查詢性能。在數(shù)據(jù)管理方面，KPU-SQL集成一種高效數(shù)據(jù)管理系統(tǒng)（DMS）充分優(yōu)化數(shù)據(jù)流，利用流式計算方法最大化片上內(nèi)存帶寬的利用率。面向數(shù)據(jù)庫查詢這一典型的應(yīng)用場景，設(shè)計KPU指令集架構(gòu)KISA，從查詢關(guān)鍵操作的層次抽象關(guān)鍵算子，實現(xiàn)KPU-SQL的并行編程。在上層軟件的支持方面，KPU-SQL提供了一個完整的軟件編程工具并充分優(yōu)化數(shù)據(jù)庫查詢操作執(zhí)行。設(shè)計了一種自適應(yīng)卸載機制，充分協(xié)同CPU和加速器的計算能力，優(yōu)化執(zhí)行中的計算和數(shù)據(jù)傳輸開銷。在數(shù)據(jù)查詢標(biāo)準(zhǔn)測試集TPC的典型實驗中，KPU-SQL比通用CPU和GPU取得24.5倍和8.75倍性能提升。

審核編輯 黃宇