普通 NIC 定位于高效遷移服務器的網絡數據包，通常包括不同程度的為優(yōu)化性能而設計的傳統卸載。SmartNIC 整合了多方面的附加計算資源，但是這些架構就像雪花一樣各不相同，因此，我們將深入研究規(guī)模最大、最受歡迎的供應商所提供的幾種方法。

普通網絡接口卡（NIC）是圍繞單獨的專用集成電路（ASIC）構建的，該集成電路被設計成以太網控制器。例如，邁絡思的 ConnectX 系列、博通的 NetXtreme 系列或賽靈思的 XtremeScale 系列。通常，這些芯片會圍繞第二個設計目標進行進一步優(yōu)化；例如，ConnectX 系列也支持 Infiniband，而 XtremeScale 則專注于 Linux 內核旁路。這些控制器的功能非常出色，它們代表了業(yè)界最出色的控制器，但它們不能算是 SmartNIC。

在本文中，我們將 SmartNIC 定義為一個允許附加軟件的 NIC，而這些附加軟件可以在購買后的某個時刻被加載到 NIC 中，用于添加新功能或支持其他功能。就像您購買了一部智能手機，然后從該供應商的應用商店下載并安裝應用一樣。

若要將 NIC 變?yōu)?SmartNIC，能夠加載并運行代碼，需要其配備額外的計算能力和板載存儲器，而這些功能是普通 NIC 所不具備的。SmartNIC 的應用大多數都是從基本的以太網控制器開始，要么在芯片上作為固件，要么在適配器上作為單獨的芯片。

以下三種方法均有助于提升計算能力，使得普通的 NIC 變得智能：

- Arm CPU 核集成，有人稱其為集群，有些人則稱其為“網格”或“塊”

- 定制網絡處理器采用的流處理核（FPC），通常是 P4

- 現場可編程門陣列（FPGA），可編程邏輯

許多 SmartNIC 通常使用一個或多個 Arm CPU 核來管理 NIC 中的控制平面。有些甚至允許將修改過的 Linux 內核加載到一個或多個核心中。這些 Arm CPU 核通常負責將代碼加載到其他處理元件中，收集統計信息和日志并監(jiān)測 SmartNIC 的運行狀況和配置。它們不會接觸任何網絡數據包，且通常會在“帶外”運行，這就意味著它們無法通過“常規(guī)”網絡接口或 PCIe 命令進行訪問。此外，他們只應通過先前受保護的接口接受經過正式簽署的固件包。除了架構草圖以外，我們不會在下面調用這些控制平面的 Arm CPU 核，因為它們需要管道，而且它們本身通常不會為 SmartNIC 提供的特性集增加價值。

為了理解 SmartNIC 與普通 NIC 的不同之處，我們需要深入了解全球四大 NIC 公司以及兩家初創(chuàng)企業(yè)推出的 SmartNIC 產品，看看他們做出了哪些改進。入選的六家公司分別是英特爾、博通、英偉達（前身為邁絡思）、賽靈思、Netronome 和 Pensando。此外，我們還將對目前被稱為 Fungible 的隱形項目提出一些見解。

說到芯片公司，大家都會想到英特爾，因為它是全球規(guī)模最大的芯片公司。十多年來，英特爾一直保持著不間斷的高性能 10GbE 以太網控制器產品線。他們的 XL710 平臺已經出貨數百萬臺，是眾多數據中心服務器的必備產品。對于其新款 N3000，英特爾 SmartNIC 的電路板采用五塊芯片。

這種方法成本很高，因為大多數廠商都在努力完成單芯片設計。英特爾還將一對 XL710 以太網控制器和一個使用 48 通道的第三代 PEX8747 PCIe 交換芯片的 Arria 10 FPGA 融合在一起。每個 XL710 有 8 個通道，Arria 有 16 個通道，PCIe 插槽有 16 個通道。第五塊芯片是用于管理 FPGA 的 MAX 10 FPGA 基板管理控制器（BMC），就像在其他 SmartNIC 上使用 Arm 核心來處理控制平面管理一樣。該電路板有兩個直接連接到 FPGA 的 QSFP28 端口。然后 8 條 10G 通道將 FPGA 留給每個 XL710。這是一種典型的 bump-in-the-wire 架構，它使 FPGA 能夠在數據包被傳遞到 XL710 之前處理數據包。

使用現成的以太網控制器和 FPGA 構建 NIC 并不是什么新鮮事。早在 2012 年，Solarflare Communications 就在 NIC 的兩個 QSFP 端口與其以太網控制器之間放置了一個 FPGA，用于創(chuàng)建其應用加載引擎（ AOE ）平臺。這是上述英特爾 N3000 設計的先驅，它幫助 Solarflare 為金融客戶提供了令人印象深刻的即時交易結果，耗時僅為 350 納秒。8 年后的今天，該記錄為 24.2 納秒。英特爾的方法支持 FPGA 在 XL710 之前進行數據包處理。

英特爾的 FPGA 具有 115 萬個可編程邏輯單元和兩個 4GB 的 DDR4 存儲器組，這為它處理以下 SmartNIC 任務提供了充足的空間：

- 虛擬寬帶網絡網關（vBNG）

- 層級服務質量（HQoS）

- 數據包分類、監(jiān)控、調度和成形

- 虛擬化演進分組核心（vEPC）

- 5G 新一代核心網絡（NGCN）

- 互聯網協議安全（IPSec）

- IPv6 分段路由（SRv6）

- 矢量數據包處理（VPP）

- 虛擬無線電接入網（vRAN）

盡管英特爾已將上述工作負載用于其 N3000 平臺，但目前還不清楚他們是否已交付所有必要的軟件來卸載該 SmartNIC 上的每個應用。SmartNIC 的消費者會發(fā)現，軟件才是癥結所在，所有這些公司在硬件方面都很出色，但是軟件交付又完全是另一回事。

SmartNIC 領域中另一家杰出的 FPGA 供應商是賽靈思，它是上世紀 80 年代中期首家實現 FPGA 商業(yè)化的公司?，F如今，賽靈思已經是 FPGA 領域的霸主，英特爾則被遠遠地甩在后面。賽靈思于 2019 年秋季收購了 Solarflare Communications，自 2012 年以來，Solarflare 一直在為電子交易構建基于 ASIC 和 FPGA 的 NIC。來自英國劍橋的 SolarFarre 工程團隊是賽靈思 Alveo U25 SmartNIC 的研發(fā)主力，如圖所示。賽靈思的成功得益于 Solarflare 工程團隊在這個市場中將近十年的經驗積累。

Alveo U25 將雙 SFP28 端口直接連接到 Zynq 系列芯片。Zynq 實際上是一種片上系統（SoC），因為它不僅包括 FPGA，還包括用于數據包處理的四核 Arm A53。然后，Zynq 通過第三代 PCIe 提供的 8 個通道直接連接到主機服務器，或是通過 SerDes 連接到 X2 以太網控制器芯片，后者也可以通過第三代 PCIe 8 個通道連接到主機。這種方法使得 Zynq 能夠在數據包被傳遞到 X2 芯片之前對其進行處理，或者完全繞過 X2 芯片。此外，U25 還包括 6GB 的 DDR4 存儲器，可以通過運行在該芯片上的程序訪問 Zynq 的 FPGA 和 Arm 核心。FPGA 具有 52 萬個邏輯單元，是英特爾提供的邏輯單元數的一半，但是提供的四核 Arm 足以彌補減少的可用門數。

賽靈思將 U25 推向市場，最初是為了滿足那些需要開放虛擬交換機（OvS) 卸載功能的客戶。賽靈思已經宣布，在不久的將來將增加 IPSec、機器學習（ML）、深度包檢測（DPI）、視頻轉碼和分析的卸載數量。賽靈思大概是 SmartNIC 領域中發(fā)展最為全面的企業(yè)。兩年前，在收購 Solarflare 的準備階段，賽靈思與 Solarflare 作為合作伙伴在 OCP 峰會上公開展示了 X2 控制器邏輯作為軟 NIC 在更大型 FPGA 中的運行情況。

如同英特爾一樣，賽靈思也擁有數條可盈利的計算芯片產品線，如 Kintex、Virtex、Zynq 和 Versal。Kintex 和 Virtex 都是純 FPGA，該系列中某些型號采用的邏輯單元數量巨大，大約有近 300 萬個，幾乎是英特爾在其 N3000 中使用數量的三倍。此外，賽靈思還通過硅中介層創(chuàng)造了奇跡，并在 Virtex 芯片上分層放置了高達 16GB 的高帶寬存儲器（HBM）。所有四條芯片生產線的其他芯片也采用了這項技術。Zynq 是他們的 SoC 芯片系列，包括 FPGA 可編程邏輯、四核 Arm、實時 Arm 核心、DDR 控制器以及用于以太網和 PCI Express 的連接邏輯。

Versal 超越了 SoC，成為一個基于七納米芯片技術的自適應計算加速平臺（ACAP）。ACAP 通過添加數百個人工智能（AI）核心和數字信號處理（DSP）引擎來擴展 Zynq 架構。AI 核心在某種程度上是新器件，但它們在本質上屬于單精度計算引擎。最終，賽靈思將把其公開展示的 SoftNIC 與 Versal 結合起來，使其成為 SmartNIC 平臺中的佼佼者。

博通是以太網 NIC 控制器商品市場上無可爭議的領導者。因此，當他們裝配 Stingray SmartNIC 并加入競爭時，博通采用了單芯片方法。與其他競爭對手的眾多芯片板相比，單芯片 SmartNIC 解決方案的板級生產成本始終保持在較低水平。博通以 NetXtreme E 系列控制器的邏輯為基礎，設計了位于 Stingray 核心的 NetXtreme-S BCM58800 芯片。然后，他們在集群配置中部署了主頻為 3Ghz 的 8 個 Arm v8 A72 核心。

接下來，他們加入了一些邏輯，以高達 90 千兆/秒的速度卸載加密，同時卸載擦除編碼和 RAID 等存儲處理。最后，博通還采用了具有神秘色彩的 TruFlow 技術。這是一個可配置的流加速器，用于將常見的網絡流過程轉移到硬件中；我們相信使用 P4 語言會取得很好的效果。這有助于釋放 Arm 核心，從而專注于流程和數據包級別上的更多可編程任務。

從發(fā)布的內容來看，TruFlow 能夠在硬件中分擔像 Open vSwitch（OvS）這樣的任務。此外，博通還聲稱 TruFlow 在硬件中實現了眾多經典的軟件定義網絡（SDN）概念，例如分類、匹配和操作。因此，Stingray 配備了兩個可編程組件，即 TruFlow 和一個由四個 3Ghz 雙核 Arm v8 A72 復合體組成的集群。了解到他們所提供產品的復雜性后，博通為 SmartNIC 應用開發(fā)和存儲控制器開發(fā)提供了 Stingray 開發(fā)套件。這確實出乎大家的意料。

英偉達在圖形處理單元（GPU）領域是公認的領導者，GPU 已經成為高性能計算（HPC）領域的首選加速器。今年年初，英偉達最終以 70 億美元的價格完成了對邁絡思的收購。為了占領 HPC 市場，英偉達選擇了領先的無限帶寬技術互聯供應商，以便為 HPC 客戶提供完整的解決方案。這與克雷過去的做法非常相似。英偉達最近還收購了 Cumulus Networks，后者是開源以太網交換機操作系統的領導者。軟件一直是邁絡思的弱點，而英偉達顯然很早就意識到了這一點。關于 SmartNIC，英偉達還通過收購邁絡思得到了一個意外驚喜。

邁絡思是最早進入 SmartNIC 領域的公司之一，但這是通過收購實現的。他們當前的 Bluefield 2 解決方案是在 2015 年通過收購 EZchip 收購 Tilera 而完成構建的。Tilera 擁有首個申請知識產權的高度并行 SmartNIC 實現方案，它是從更早的 MIT 研究項目逐步發(fā)展起來的。Tilera 將處理核心作為芯片上的塊進行排列，每個核心都有一條高速總線連接到周圍的四個核心。他們的旗艦產品早在 2013 年就可支持多達 72 個 MIPS 核心、內存控制器、加密模塊、PCIe 塊和 mPipe，這是通過 SFP 和連接器連接到多個 MAC 的一組通道。

邁絡思通過用 Arm 替換核心并將 mPipe 換成 ConnectX 邏輯來推進這一進程。當前的核心數量為 8 個 Arm v8 A72 核心，但它們被排列成由 4 個雙核心 Arm 構成的群集。這種方法與博通的 Stingray 十分類似，它們不僅使用相同的核心，而且速度相同，但是它缺少 Broadcom 架構的核心組成部分，即并行 P4 處理器。P4 是每家公司的目標，只不過并不是每家公司都對此公開表明。下面提到的博通、賽靈思和 Pensando 都很關注 P4。這也是 Cumulus Networks 的用武之地，他們在 P4 編程方面有著豐富的經驗。因此，為了向未來的 Bluefield 產品系列提供前端服務，英偉達設計了 P4 數據包處理引擎也就不足為奇了。

最新的 SmartNIC 初創(chuàng)企業(yè)是 Pensando，由思科前首席執(zhí)行官 John Chambers 創(chuàng)立。John 帶領他的夢之隊（六名前思科員工）創(chuàng)辦了這家公司。這些人的公司過去都曾被思科收購。考慮到他們的聲譽和以往的經驗，人們普遍認為 Pensando 正在向一些主要客戶證明他們的技術是可行的，然后他們會將其打包賣給思科。思科擁有一些通用的 NIC 技術，但它不是 SmartNIC 級別的，Pensando 顯然是想填補這一空白。

Pensando 最初提供兩種產品，但最近又降為單一產品，即分布式服務卡 DSC-25，這聽起來甚至像是思科產品的名稱。它像是一款單一的 P4 處理器芯片，帶有用于一些輔助處理的 Arm，數據表聲稱這兩種處理器都可支持高達 4GB 的板載存儲器。該處理器稱為 Capri，它是帶有多個并行級的 P4 可編程單元；但確切的并行處理程度尚不清楚，因為數據包性能、時延和抖動尚未公布。由于緩存未命中而導致的指令內存提取會影響所有指標的性能，所以 Pensando 妥善管控 P4 應用，將它們保留在 Capri 緩存中。其他被稱為服務處理卸載（Service Processing Offloads）的計算單元則負責處理加密、存儲流程和其他任務。

Pensando 聲稱 Capri 能夠提供線速性能。Fungible 是頗具潛力的后起之秀。在獲得了近 3 億美元的三輪融資（其中 2 億美元來自去年的 C 輪軟銀集團愿景基金）后，他們宣布即將推出一款新產品。目前，他們有 180 名員工，沒有產品，沒有收入，也沒有可見客戶。Fungible 聲稱將生產數據處理單元（DPU），但實際的架構和組成尚不明朗。他們提供了下面所示的圖片，但如同架構圖不具備重要意義一樣沒有突出重點。

很多文章都提到他們的產品將在今年夏天發(fā)布，因此我想提醒大家關注這家公司。他們的創(chuàng)始人之一兼首席架構師是曾在 Chelsio Communications 積累了 10 年經驗的資深人士，專門從事以存儲為中心的以太網 NIC 方面的研究。此外，他們的軟件和固件工程副總裁也曾在 Chelsio 任職，而且他的工作經驗有 13 年之久。因此，盡管 Chelsio 過去的核心產品是 ASIC，但如今從頭開始生產一款領先的 SmartNIC 以太網控制器 ASIC 很容易就會消耗掉他們超過 5000 萬美元的寶貴資本。

有人推測，他們將采取阻力最小的方法來獲得收益，并利用 FPGA 平臺開發(fā)他們的初始產品，同時將特有的 ASIC 設計加載到該平臺。隨后，他們可以在開始追求客戶和收益的同時推出設計方案。將設計加載到 FPGA 中有助于 Fungible 輕松地修復設計缺陷，并可以根據客戶要求快速改善。如今，FPGA 的應用越來越廣泛，我們已經開始看到像 RISC-V 這樣成熟的處理器架構被加載到這些平臺上。

那么，SmartNIC 與普通的 NIC 有哪些顯著性差異？計算能力、存儲器以及最重要的軟件設計都是為了減輕主機 CPU 的負擔，以完成更高級的網絡處理任務 SmartNIC 將推動計算能力逐漸擴展到網絡邊緣，從而釋放服務器 CPU 的算力，重點關注復雜的業(yè)務關鍵型處理任務。研究表明，在高度虛擬化的環(huán)境中，網絡可以消耗主機 CPU 周期的多達 30% 來處理 OvS 事務等任務。試想一下，在 SmartNIC 中能夠完成存儲功能、加密、深度包檢測和復雜路由嗎？這可能會將通?；ㄙM在處理這些工作負載上的大部分 CPU 周期傳遞回主機 CPU。

為了保持領先地位，Pensando 和 Fungible 這樣的新興公司將繼續(xù)向 SmartNIC 市場注入創(chuàng)新特性和功能。與此同時，像賽靈思、英特爾、博通和英偉達這樣的技術領先者也開始著手改進基礎計算核心和專用 P4 處理引擎。SmartNIC 市場正在升溫，而這只是從 GPU 技術開始興起的加速器浪潮的邊緣領域，但它將改變計算技術的發(fā)展方向。

作者介紹

姓名：Scott Schweitzer

職位：賽靈思技術布道者

個人簡介：

自從當年通過 TRS-80 計算機入門編程的世界，Scott 便成為了一名忠實的科技信徒。他曾為 IBM、NEC、Solarflare 以及現在的賽靈思編寫過產品級的軟件產品，構建過硬件產品，并擔任過程序管理職務。在從事單插槽計算平臺工作 20 年后，Scott 于 2003 年加入 NEC，管理其新推出的英特爾安騰（Itanium）多核 64 位超級計算服務器。自此，他一直都在該領域繼續(xù)深耕。

2005 年，Scott 開始重點研究超級計算與超高性能聯網聚類這兩大領域。隨著 10GbE 的普及，他推出了廣受歡迎的 10GbE.net 博客。在 2017 年市場風云變幻之際，Scott 將 10GbE.net 打造成了一個每月擁有數千次頁面瀏覽量的技術傳播博客，同時還附帶一個播客。Scott 在賽靈思的職責是與合作伙伴一起探尋新的加速機遇并定義創(chuàng)新解決方案。

原文標題：SmartNIC 與普通的 NIC 有哪些顯著性差異？

文章出處：【微信公眾號：FPGA開發(fā)圈】歡迎添加關注！文章轉載請注明出處。

責任編輯：haq