“數(shù)據(jù)中心并不存在模板，因為其工作負載是持續(xù)動態(tài)變化的，并不存在單一應(yīng)用主導(dǎo)數(shù)據(jù)中心，因此現(xiàn)在數(shù)據(jù)中心在需求和應(yīng)用上面臨著持續(xù)的變化，在保持可擴展性的同時還必須保證敏捷性，可以不間斷運行變化的應(yīng)用，而無需硬件的升級和擴展。”在賽靈思數(shù)據(jù)中心的春季媒體溝通會上，數(shù)據(jù)中心市場總監(jiān)Ed Wright說道。 本次溝通會上，賽靈思的主題是可組合性，著重介紹了可組合式的智能NIC、smart world AI視頻分析平臺以及加速交易算法。

可組合式的智能NIC 針對以上的需求，賽靈思推出了新型數(shù)據(jù)中心解決方案，業(yè)界首款硬件可組合式的智能NIC——Alveo SN1000。在10G以下的級別中，市面上多用標(biāo)準(zhǔn)的NIC，因為服務(wù)器、網(wǎng)絡(luò)到存儲都不需要精心加速，但是在10G到25G級別上，CPU的內(nèi)核會開始出現(xiàn)一些卡頓，這才出現(xiàn)了卸載NIC減輕CPU負擔(dān)。但這類卸載NIC往往為ASIC，不能重新編程，而且對網(wǎng)絡(luò)數(shù)據(jù)的卸載也只能滿足10到25G這個級別，到了50G乃至100G這樣的端口速率下，CPU內(nèi)核資源會被網(wǎng)絡(luò)數(shù)據(jù)包的處理大幅占用，這才是可編程智能NIC的設(shè)計目的。

賽靈思在超大規(guī)模數(shù)據(jù)中心客戶中發(fā)現(xiàn)，CPU和ASIC很難滿足他們差異化的需求，CPU和SoC的實現(xiàn)方案則無法滿足硬件加速的性能要求。SN1000是一個2x 100GB的智能NIC，基于UltraScale+ FPGA架構(gòu)，另有多核ARM子系統(tǒng)和Vitis Networking功能。有了賽靈思FPGA的靈活應(yīng)變能力，用戶可以通關(guān)軟件自定義硬件加速，而ARM和Vitis Networking則提供了控制面與數(shù)據(jù)面的分離和自定義編程。SN1000智能NIC支持開箱即用、即插即用，因為賽靈思已經(jīng)預(yù)想對OVS、網(wǎng)絡(luò)虛擬化安全和存儲等應(yīng)用進行了加速。

賽靈思數(shù)據(jù)中心事業(yè)部網(wǎng)絡(luò)與存儲產(chǎn)品管理總監(jiān)Kartik Srinivasan提到，目前的行業(yè)預(yù)測下，預(yù)計2024年這種可編程式的智能NIC將占到整個市場的70%。目前的SN1000已經(jīng)達到100G的速率，賽靈思也在積極研究下一代的協(xié)議和速率。除了數(shù)據(jù)中心之外，這些需求也會慢慢下沉到云服務(wù)供應(yīng)商、電信運營商和企業(yè)等。 用戶既可以采用RTL或是高級綜合等傳統(tǒng)的FPGA編程方法來對數(shù)據(jù)面處理，也可以借助第三方來實現(xiàn)，比如在賽靈思的應(yīng)用商店中購買其他IP的硬件加速功能。賽靈思應(yīng)用商店是賽靈思搭建的一套客戶方案推廣平臺，合作伙伴可以用這種全新的方式推給相關(guān)的客戶。該商店支持本地和云端部署，而且可供用戶進行評估，由此選擇按需付費或永久許可等靈活的部署選項。

賽靈思智能世界
近些年來，基于AI的視頻分析應(yīng)用開始普及，尤其是在口罩識別、遠程會診等安全健康領(lǐng)域上。但這些應(yīng)用日益增加復(fù)雜程度為其創(chuàng)造了挑戰(zhàn)，比如保證確定性的低時延，以及硬件擴充造成的空間和硬件成本。賽靈思為企業(yè)和開發(fā)者提供了一套名為“賽靈思智能世界”的AI分析平臺，既能滿足高復(fù)雜度/模型數(shù)等性能挑戰(zhàn)，又可以做到100毫秒以下的低時延。 以視頻分析常見的應(yīng)用場景智能零售為例，零售業(yè)由于欺詐每年損失近一千億美元以上，因此多路攝像頭對成本和時延都提出了挑戰(zhàn)。而在同條件的測試場景中，賽靈思智能世界的總擁有成本（TCO）與英偉達的競品T4 GPU相比降低了近30%，比如當(dāng)處理32個攝像頭的數(shù)據(jù)時，只需要兩套賽靈思Alveo卡，但英偉達的T4 GPU則需要用4張。與此同時，端到端的時延與該競品相比也提速了70%以上。 賽靈思的VMSS平臺是一個高度可擴展的視頻處理平臺，哪怕需要增加信道而擴充一張卡的情況下，也不會影響整體的時延。而且該平臺的設(shè)計非常靈活，在沒有視頻推斷任務(wù)的情況下，可以用作訓(xùn)練、視頻處理和數(shù)據(jù)庫處理等。 賽靈思數(shù)據(jù)中心部亞太區(qū)數(shù)據(jù)中心的戰(zhàn)略營銷經(jīng)理Guruprasad M. Parthasarathy給到了幾個采用智能世界解決方案的客戶案例。比如在智能樓宇的應(yīng)用上，騰訊的WeLink是一套采用Aupera創(chuàng)新方案的物聯(lián)網(wǎng)操作系統(tǒng)，而Aupera正是賽靈思智能世界方案的合作伙伴之一。在采用Aupera的邊緣AI計算方案后，該系統(tǒng)節(jié)省了90%以上的帶寬成本，擺脫了全部交由云服務(wù)器處理的高成本和高時延。
Guruprasad也提到VMSS集成了很多Alveo硬件方案，比如視頻編碼上用的Alveo U30，視頻推斷采用的是Alveo U50等等。

賽靈思加速算法交易

Ed Wright指出當(dāng)今的算法交易主要分為硬件和軟件兩大交易路徑，而且兩者在性能和能力上都有著較大差異。硬件較算法需要尋求專業(yè)硬件開發(fā)商在IT系統(tǒng)上設(shè)計架構(gòu)，然后再提供解決方案，不僅成本頗高，交期也非常長，帶來了極大的商業(yè)風(fēng)險。尤其是對于高頻交易市場來說，突破微秒級時延壁壘的定制硬件是一條昂貴和耗時的開發(fā)路線。 而賽靈思加速算法交易給到了一套可組合的開源交易系統(tǒng)，交易者不僅可以享受毫秒級時延的即時交易。在賽靈思的Vitis軟件平臺上，開發(fā)者可以通過模塊化的方式來構(gòu)建并且部署在基于FPGA的Alveo卡上。Vitis不僅支持各種庫的組合，還支持C和C++語言編程，方便將內(nèi)部應(yīng)用與第三方應(yīng)用進行集成。

賽靈思的加速算法交易填補了算法交易中CPU或定制硬件開發(fā)中的市場空白，在時延和開發(fā)周期上做到了兩全其美。而且有了現(xiàn)成的Alveo卡，開發(fā)者可以免去硬件定制這一流程。只要借助賽靈思的Alveo U50和Alveo U250，就可快捷部署賽靈思的加速交易算法，而且無需許可費用。