在過去的兩年里，人工智能已經從學術奇跡轉變?yōu)槿虼筅厔?。某種形式的機器學習將徹底改變幾乎所有事物——消費、汽車、工業(yè)、電子的每個領域——除此之外，還會以我們還不知道的方式影響社會和我們的生活。

這對行業(yè)意味著，幾乎每個處理器供應商都將機器學習視為會下金蛋的鵝。競爭正在將自己的方法定位為正確的解決方案，以加速最具潛力的領域中的特定工作負載：數(shù)據(jù)中心之外的機器學習，或邊緣的人工智能。

邊緣的人工智能有很大的希望，因為它幾乎可以應用于所有電子設備，從可以看到路上行人的自動駕駛汽車到響應語音命令的咖啡機。需要延遲、數(shù)據(jù)隱私、低功耗和低成本的任意組合的應用程序最終將遷移到邊緣的 AI 推理（請注意，“邊緣 AI”是 Gartner 圖表上的唯一 AI 點，距今不到 5 年）。

今年的 Gartner 新興技術炒作周期。Edge AI 距離“生產力的高原”還有兩到五年的時間。（圖片：Gartner）

AI 推理的工作負載是特定的：它們需要對大量低精度數(shù)據(jù)進行大規(guī)模并行處理，內存訪問成為瓶頸。大多數(shù)（如果不是全部）類型的處理器都試圖彎曲自己以適應這些要求。

現(xiàn)有技術是 GPU——今天實際上是一個公司的細分市場。幸運的是，GPU 的單指令多數(shù)據(jù) (SIMD) 架構是為加速計算機圖形而開發(fā)的，結果證明它非常適合 AI 工作負載。英偉達正在盡可能地利用這一浪潮，為數(shù)據(jù)中心和自動駕駛開發(fā)人工智能超級計算機，以及用于邊緣設備的縮小版本。

其他人也都想分一杯羹。長期以來一直用于加速數(shù)學算法的 FPGA 供應商正在改進他們的產品以適應邊緣 AI 處理。Xilinx 采用域特定架構的概念并與之一起運行，將可編程邏輯與其他計算類型相結合，以允許針對新工作負載定制數(shù)據(jù)流。與此同時，萊迪思的目標是低功耗設備中的圖像處理。

還有許多初創(chuàng)公司將他們的新穎架構作為下一件大事。它們的范圍從內存處理器技術（Mythic、Syntiant、Gyrfalcon）到處理器近內存技術（Hailo）；從可編程邏輯 (Flex Logix) 到 RISC-V 內核（世界語、GreenWaves）；從非常小的（Eta Compute）到超大規(guī)模（Cerebras，Graphcore）。大多數(shù)用于邊緣的人工智能。當它們與英偉達和英特爾等公司對抗時，是否有足夠的利基市場來支持它們？時間會證明一切。

還有一些初創(chuàng)公司從另一個方向解決了這個問題：調整人工智能工作負載以在微控制器等傳統(tǒng)硬件上更有效地運行。PicoVoice 和 Xnor 等公司正在尋找新的方法來利用現(xiàn)有設備的指令集來執(zhí)行矩陣乘法。

結合谷歌在 TensorFlow Lite 上的工作——一種將機器學習模型縮小到可以安裝到微控制器上的編譯器——這無疑將為不需要聯(lián)網的聲控設備等東西打開閘門——連接做推理。

面對新型加速器芯片組的嵌入式開發(fā)人員將不得不學習如何使用它們。軟件是這個難題的重要組成部分。更傳統(tǒng)的 CPU、MPU 和 MCU 顯然在這方面處于領先地位。

雖然圍繞一個新的軟件平臺建立一個開發(fā)者社區(qū)并非不可能，但這并不容易。英偉達花了十年時間將其 GPU 軟件平臺 CUDA 打造為今天的成功。任何進入這個領域的人都需要構建庫和工具包，并通過會議和論壇努力教育開發(fā)人員。所有這些都會使初創(chuàng)公司的有限資源緊張。

靈活性是成功秘訣的另一個重要因素。雖然今天的圖像處理模型依賴于卷積神經網絡 (CNN)，但不同類型的神經網絡適用于其他應用，例如語音識別，并且學術界一直在提出新的神經網絡概念。高級網絡可能需要更復雜的數(shù)據(jù)流方案。為加速當今的 CNN 而開發(fā)的硬件可能過于專業(yè)，無法加速未來的網絡平臺。因此，應將 AI 工作負載的性質視為一個移動目標，在靈活性和性能之間取得適當平衡，這對于面向未來至關重要。

爭奪這個空間的戰(zhàn)斗才剛剛開始。獲勝者將是選擇正確的利基市場并努力追求的公司，投資于軟件堆棧和教育行業(yè)，并為這個快速發(fā)展的行業(yè)保持一定的靈活性。當然，要以合適的價格做這一切。