電子發(fā)燒友網(wǎng)>電子資料下載>電子資料>ThunderGP：基于HLS的FPGA圖形處理框架

ThunderGP：基于HLS的FPGA圖形處理框架

2513696 2022-10-27 | zip | 0.52 MB | 次下載 | 免費

資料介紹

描述

“整個互聯(lián)網(wǎng)電子商務(wù)世界都是由圖分析驅(qū)動的”，因為圖結(jié)構(gòu)可以自然地代表許多重要應(yīng)用領(lǐng)域的數(shù)據(jù)集，例如社交網(wǎng)絡(luò)、網(wǎng)絡(luò)安全和機(jī)器學(xué)習(xí)。來自這些應(yīng)用程序的數(shù)據(jù)對高性能圖形處理提出了迫切的需求。

大量研究構(gòu)建基于 FPGA 的高效圖形處理加速器；但是，高級圖形應(yīng)用程序與底層 CPU-FPGA 平臺之間仍然存在差距，這需要開發(fā)人員了解硬件細(xì)節(jié)并進(jìn)行大量編程（例如，使用硬件描述語言進(jìn)行編程、調(diào)整管道和進(jìn)行內(nèi)存優(yōu)化） . 這一差距在很大程度上阻礙了數(shù)據(jù)中心應(yīng)用程序開發(fā)人員采用 FPGA。

ThunderGP 有什么大不了的？

ThunderGP 通過為 FPGA 加速圖形處理帶來性能和可編程性來彌補(bǔ)上述差距，并已在FPGA'21中被接受。

ThunderGP 是 FPGA 上基于 HLS 的開源圖形處理框架，支持 Vitis 和 SD Accel 開發(fā)環(huán)境，適用于 Xilinx Alveo 平臺，如 U50、U200、U250 和 VCU1525。使用 ThunderGP，開發(fā)人員只需要編寫使用基于顯式高級語言 (C++) 且與硬件無關(guān)的 API 的高級函數(shù)。隨后，ThunderGP 在具有多個超級邏輯區(qū)域 (SLR) 的最先進(jìn) FPGA 平臺上自動生成高性能加速器并管理加速器的部署。

圖 1：ThunderGP 概覽。它與 Vitis 和 SDAccel 工具兼容。

ThunderGP 的概述如圖 1 所示。我們簡要說明主要構(gòu)建塊如下。

內(nèi)置加速器模板。ThunderGP 采用 Gather-Apply-Scatter (GAS) 模型作為各種圖算法的抽象，并通過內(nèi)置的高并行和內(nèi)存高效的加速器模板來實現(xiàn)模型。
自動加速器生成。自動加速器生成可產(chǎn)生可合成的加速器，釋放底層 FPGA 平臺的全部潛力。除了內(nèi)置加速器模板外，它還采用圖形算法的分散、聚集和應(yīng)用階段（來自 GAS 模型）和 FPGA 平臺模型（例如，U50）的用戶定義函數(shù) (UDF) ) 來自開發(fā)人員作為輸入。
圖分區(qū)和調(diào)度。ThunderGP 采用基于目標(biāo)頂點的垂直分區(qū)方法，無需引入邊緣排序等繁重的預(yù)處理操作，即可通過片上 RAM 實現(xiàn)頂點緩沖。
高級API。ThunderGP 提供了兩組基于 C++ 的 API：用于自定義圖形算法加速器的加速器 API (Acc-API) 和用于加速器部署和執(zhí)行的 Host-API。

有關(guān) GAS 模型、API 和 ThunderGP 設(shè)計的詳細(xì)信息，請參閱ThunderGP 技術(shù)報告（附件或GitHub 上）。

ThunderGP 的易用性如何？

我們進(jìn)行了一個案例研究——使用 Vitis 2020.1 在 Alveo U50 板上進(jìn)行 COVID-19 的傳播預(yù)測——以展示 ThunderGP 如何輕松應(yīng)用于現(xiàn)實生活中的圖形處理問題。

及時預(yù)測人口水平上隨時間變化的感染流行率對于部署適當(dāng)?shù)姆怄i措施（例如隔離或社交距離）以減輕病毒傳播具有重要作用。當(dāng)前的傳播預(yù)測模型一般由空間元胞自動機(jī)（CA）和時間易感感染清除（SIR）模型組成，其中單元代表一個居民區(qū)（如縣）并保持其狀態(tài)（如感染率）由 SIR 模型根據(jù)相鄰小區(qū)之間的傳輸進(jìn)行更新。因此，傳播可以表述為一個圖處理問題，其中縣及其連接由圖表示，并且 SIR 通過圖中的傳播更新。

我們使用 ThunderGP 實現(xiàn)了三個傳播模型：CA-SIR [1]、CA-SEIR [2] 和 CA-SAIR [3] 模型。該數(shù)據(jù)集來自 COVID-19 影響分析平臺 [4]，包含 3.1K 縣和 2.3M 連接。

在這里，我們展示了為清單 1 中的 CA-SAIR 模型實現(xiàn)加速器的示例。對于分散階段，每個縣（一個小區(qū)）根據(jù)其感染率及其連接強(qiáng)度計算感染率以推送到相鄰縣它量化了縣際流動的數(shù)量和頻率。對于聚集階段，該縣會累積推到它的所有感染率。在申請階段，收集到的感染率用于計算感染率。注意apply階段涉及到很多用戶自定義參數(shù)（ThunderGP支持apply階段自定義參數(shù)，詳見技術(shù)報告）。

清單 1：用于在 U50 平臺上加速 COVID-19 傳播預(yù)測的用戶輸入。

圖 2 顯示了使用公共數(shù)據(jù)集進(jìn)行預(yù)測一周后美國感染風(fēng)險的可視化。結(jié)果與在 CPU 端執(zhí)行的開源 Python 程序 [3] 相匹配。

圖 2：從預(yù)測時間開始一周后感染風(fēng)險的可視化。

表 1 量化了 ThunderGP 在此任務(wù)上所涉及的開發(fā)工作，并顯示了與基于 Python 的 CPU 實現(xiàn)的性能比較[3]。根據(jù)結(jié)果??，使用 ThunderGP 解決這個問題的好處是雙重的。首先，ThunderGP 比基于 CPU 的解決方案實現(xiàn)了高達(dá)419 倍的加速。能夠在短時間內(nèi)預(yù)測傳播可以幫助對傳播狀況做出快速及時的反應(yīng)。其次，CA-SIR 模型隨著對病毒認(rèn)識的不斷深入而快速發(fā)展。使用 ThunderGP，開發(fā)者只需編寫幾十行代碼用于加速預(yù)測通常一天，這最大限度地減少了開發(fā)工作。這個初步結(jié)果是有希望的，并且系統(tǒng)是開源的，我們相信可以進(jìn)行更多的案例研究來進(jìn)一步評估可編程性的改進(jìn)。

表 1：ThunderGP 在 U50 平臺上對 COVID-19 傳播預(yù)測的開發(fā)工作。將數(shù)據(jù)集格式化為標(biāo)準(zhǔn)圖形格式的代碼不計算在內(nèi)。FPGA 映像的編譯時間不包括在開發(fā)時間中。

[1] 馬富恩特斯等人。物理學(xué) A：統(tǒng)計力學(xué)及其應(yīng)用，1999。

[2] 何塞 M Carcione 等人。基于確定性 seir 模型的 covid-19 流行病模擬。arXiv，2020 年。

[3] 周一望等。用于告知美國縣級 covid-19 風(fēng)險的時空流行病學(xué)預(yù)測模型。哈佛數(shù)據(jù)科學(xué)評論，2020 年。

[4] 馬里蘭大學(xué) COVID-19 影響分析平臺。https: //data.covid.umd.edu，2020-09-10。

ThunderGP 的效率如何？

如前所述，已有大量基于 FPGA 的圖形處理加速器的研究工作。在本章中，我們將與最先進(jìn)的設(shè)計進(jìn)行公平比較，以展示 ThunderGP 的效率。數(shù)據(jù)集和圖應(yīng)用請參考ThunderGP 技術(shù)報告。

我們首先將 ThunderGP 與最先進(jìn)的基于 RTL 的工作：Hitgraph [1] 進(jìn)行比較，如表 2 所示。性能指標(biāo)是每秒百萬邊緣遍歷 (MTEPS)。所有的實現(xiàn)都基于四個 SLR，但不同之處在于 HitGraph 沒有考慮使用多個 SLR 的開銷，因為它的性能是基于模擬的，只是簡單地縮放到多個 SLR 的內(nèi)存帶寬。性能加速高達(dá) 2.9 倍。更重要的是我們讓設(shè)計在真實硬件上執(zhí)行。

表 2：與最先進(jìn)設(shè)計的性能比較[1]。

然后我們將 ThunderGP 與基于 HLS 的框架進(jìn)行比較：Chen 等人。[2] 和 GraphOps[3]。由于他們的實驗不是使用多個 SLR 進(jìn)行的，因此內(nèi)存帶寬較少，為了進(jìn)行公平比較，我們使用帶寬效率 (MTEPS/(GB/s)) 作為衡量標(biāo)準(zhǔn)。如表 3 所示，ThunderGP 比 GraphOps 實現(xiàn)了高達(dá) 29.2 倍的絕對加速和 12.3 倍的帶寬效率提升，比 Chen 等人實現(xiàn)了 5.2 倍的絕對加速和 2.4 倍的帶寬效率提升。