各位可能都聽過第四次工業(yè)革命是來自萬物聯(lián)網（Internet of Things，IoT），包括實體、虛擬、與生物體，也一定聽過最近幾年內許多人工智能 （Artificial Intelligence，AI） 的重大突破與各方面的應用，IoT 是從 1999 年就發(fā)明的詞，AI 的發(fā)展更超過一甲子，然而這兩者的結合才是下個新產業(yè)機會的大浪，正要開始。

什么是 AIoT 與邊緣計算

相關用語包括 AIoT 以及邊緣計算 （Edge Computing），我們先看看他們的定義：

IoT – 藉由各處的無線傳輸裝置，通過感測器蒐集各種的數(shù)據，再將數(shù)據傳輸?shù)介l道或電腦之中，連接到網路上，達到萬物連上網的效果，如何使這些數(shù)據產生應用層面更是相當重要的議題。

AI – 基于自我學習為基底，藉由大量的數(shù)據作為學習依據，通過建立一層層神經網路架構，進行反覆的學習與修正，并佈署最終訓練完的權重值，去進行預測與判斷。

通過 AI 與 IoT 兩者整合，相輔相成。藉由 AI 從邊緣感測器蒐集的大量數(shù)據萃取價值，再控制本地的系統(tǒng)就是 AIoT 的基本概念，例如在工廠產線中，通過視覺感測器收集數(shù)據，經由 AI 計算判斷分類，再由機器手臂執(zhí)行檢選。沒有AI 來處理與利用數(shù)據，IoT 是沒有意義的。

AI 與 IoT 兩個領域延續(xù)過去投資熱度，今年仍是最熱的標的，遠領先區(qū)塊鏈 （Blockchain）。

邊緣計算的必要性

過去這 AI 主要在云端計算，難免受制于帶寬與延遲的限制，現(xiàn)在的趨勢逐漸走向所謂的邊緣計算，根據邊緣計算產業(yè)聯(lián)盟 （ECC） 與工業(yè)互聯(lián)網產業(yè)聯(lián)盟 （AII） 聯(lián)合發(fā)布的邊緣計算參考架構 2.0（2017）：邊緣計算是在靠近物或數(shù)據源頭的網絡邊緣側，融合網絡、計算、存儲、應用核心能力的分布式開放平臺，就近提供邊緣智能服務，滿足行業(yè)數(shù)字化在敏捷聯(lián)接、實時業(yè)務、數(shù)據優(yōu)化、應用智能、安全與隱私保護等方面的關鍵需求。

許多應用程序對延遲不敏感，不需要大量的就近計算或存儲資源，因此理論上它們可以在集中式的云中運行，但是對帶寬和計算資源有要求的應用，使用邊緣計算將成為更有效的方法，例如視頻監(jiān)控、物聯(lián)網網關 （Gateways）、使用臉部識別的門禁、車牌識別。而且廠商不需在每個有客戶的區(qū)域都要部署服務器。

有些實時應用程序是無法承受超過幾毫秒的延遲，諸如 AR/VR、車聯(lián)網、遠程醫(yī)療、觸覺互聯(lián)網、工業(yè)4.0 和智慧城市等。需在應用情境當場形成閉環(huán)自動化，來維持高可用性與安全性，靠近用戶的計算和緩存成為了必需品。

還有許多場所網絡連接受限、不可靠或不可預知。這些場所包括交通運輸工具 （飛機、巴士、船舶），采礦作業(yè)區(qū) （石油鉆井平臺、管道、礦山），電力基礎設施 （風力發(fā)電場、太陽能發(fā)電廠），衛(wèi)星通信，海上船只 （從漁船到油船），這些偏遠和惡劣的環(huán)境中，邊緣計算讓位于邊緣的裝置根據實時數(shù)據自治，應用在預測性維護上，可避免零件機臺故障造成當機 （有些情形甚至造成死傷），應用在能效管理上，可降低成本與提升可靠性。

AI + IoT 開始成為熱錢追逐標的

結合 AI 的 IoT 新創(chuàng)公司，在去年吸引可觀的資金，從企業(yè)與私有基金取得總共 22 億美金，并購活動也十分熱絡，代表產業(yè)的新興熱點崛起。

位于芝加哥的 UptakeTechnologies，去年取得總共 2.5 億美金的 C 輪與 D 輪資金，成為獨角獸，服務于工業(yè)物聯(lián)網-- 石油天然氣產業(yè)、采礦、農業(yè)、航空、營建、制造、鐵路、貨運車隊、綠色能源與智慧電網。

另一個獨角獸 – C3 IoT –除了部分以上提到的領域外，也著力于智慧城市、公用基礎建設、金融服務、健康管理、零售與通訊。去年拿到一個億美金。

專注于物聯(lián)網無線解決方案的Silicon Labs（亦稱“芯科科技”）公司也通過收購 Sigma Designs 的 Z-Wave業(yè)務和。

自從 2015年，邊緣計算進入到 Gartner 的 Hype Cycle （技術成熟曲線）。Gartner 預測在 2022 年之前 80% 的企業(yè)級 IoT 將配備布署 AI，目前只有 10%。

半導體芯片在 AI 產業(yè)的關鍵地位

半導體芯片在使能 AI 產業(yè)上處于核心地位，需要處理巨量數(shù)據的機器學習 （Machine Learning） 要求極大的算力與特大儲存容量，對應的是對高端處理器與更大更省電的存儲器的需求。目前這兩個關鍵技術，仍以美國居全球領先地位，以中國投入的追趕力道最大。

根據 JP Morgan 預估，AI 芯片市場營收，在 2022 年前將以年均復合增長率 59% 增長，相對于整個半導體市場增長率僅有 5-6% ［1］。自從網絡泡沫以來，風投對半導體業(yè)的投資興趣逐漸走低，現(xiàn)在，AI 改變了這個趨勢。

半導體在 AI 運作的主要三個階段都具有關鍵支持地位，三階段分別為：

數(shù)據生成與收集：可能通過智慧手機與 IoT 各種終端傳感裝置；

以收集的數(shù)據對算法進行訓練：訓練是指通過大量的數(shù)據樣本，代入神經網絡模型運算并反復迭代，來獲得各神經元的權重參數(shù)的過程。這階段需處理海量數(shù)據，最耗計算資源，必需在云端進行，要求盡可能高的算力。大家可能都聽過 Nvidia 靠繪圖處理器 （GPU） 在近幾年大放光芒，它提供的就是訓練芯片，支持深度學習 （Deep Learning） 技術的深度神經網絡 （Deep Neural Network） 建模計算，得力于 GPU 的大型矩陣平行運算助力，讓以前不實際、超過百層的神經網絡計算成為合理可能，所以 AI 訓練芯片表現(xiàn)大大提升。

根據訓練好的算法對新數(shù)據進行推斷預測 （inference）：推斷是指借助現(xiàn)有神經網絡模型進行運算，利用新的輸入數(shù)據來一次性獲得正確結論的過程。推斷過程對響應速度一般有較高要求，因此會采用 AI 芯片 （搭載訓練完成的神經網絡模型） 進行加速。這階段可能發(fā)生在云端或邊緣，然而如同前面所述，為了反應速度或安全性等因素，將推斷放在邊緣終端逐漸成為趨勢，所以大量的各種終端裝置都將會加上推斷芯片來建立智能。邊緣裝置芯片只需內建訓練好的模型算法，可隨時對新收集數(shù)據進行反應與自我管理。在連網時，可將邊緣數(shù)據傳回云端，持續(xù)不斷修正與優(yōu)化模型，然后再回傳更新的模型給邊緣。

邊緣計算應用落地是硬件與系統(tǒng)商的大機會

根據 CrunchBase 的 2018 AI 市場報告，Amazon、Google、Microsoft 等巨頭推出的 AI as a Service 開發(fā)框架，加上有能力自制高端芯片，已經讓機器學習的新創(chuàng)公司難以生存。這種云端企業(yè)級 AI 需要數(shù)據中心級的大規(guī)模投資，提升每單位電力可帶來的計算量，門檻很高。

然而，善長生產硬件、整合終端裝置制造供應鏈的國家，卻有機會將 AI 推斷芯片置入終端，在邊緣計算的各種各樣應用場景好好發(fā)揮。相比訓練芯片追求算力，推斷芯片考慮的因素需要整體優(yōu)化：單位功耗算力，時延，成本等等（大多需極低耗電與低成本），所以垂直合作配合更為重要。難怪鴻海董事長郭臺銘就說：半導體我們自己一定會做。根據 JP Morgan 的預估，邊緣 AI 應用的半導體產值也將以比云端 AI 以更高的年均復合增長率成長。

但是硬件廠商需要提升自己的思維到服務提供者的高度，了解客戶與市場，才能完整掌握應用情境，并以服務導向拉動上下游供應鏈充分合作，整合構建創(chuàng)新的垂直行業(yè)解決方案。不僅是硬件廠商延伸成為整體服務提供者，甚至掌握 AI 演算法，以求勝出，軟件廠商為了做好智能終端，也發(fā)現(xiàn)必須掌握硬件設計與韌體，軟硬整合為必要。整個開發(fā)與除錯戰(zhàn)線比過去長，而且需要跨領域知識。

PC 與 Mobile 時代，產品與技術規(guī)格比較一致，產品戰(zhàn)線大概就是分低、中、高階而已，但在接下來興起的 AI 加 IoT 時代 – 有人稱為智聯(lián)網，智能終端的應用卻可能非常多樣化，AI 的應用場景碎片化，分散在許多流程環(huán)節(jié)里，有極大的創(chuàng)新空間，但要考慮的邏輯更復雜，需針對不同應用需求在能耗、性能、或散熱等問題進行優(yōu)化。相比于互聯(lián)網時代，物聯(lián)網的通信協(xié)議更加多樣，碎片化嚴重。新的游戲規(guī)則與新的市場面貌正在成形中。

創(chuàng)新的目的 – 回歸價值創(chuàng)造

ARM 為了 AI 推斷算法優(yōu)化最前沿的 CPU 與 GPU IP 核，高通、聯(lián)發(fā)科、谷歌、Rockchip 在其處理器加上 DSP 計算核以強化原有視覺辯視計算與其它AI 計算，蘋果、Intel、NVIDIA 也紛紛推出附神經網絡芯片以加速AI 計算，Lattice、Microsemi、 Intel 則利用 FPGA 處理 AI 計算，包括云端與邊緣。

安控監(jiān)視系統(tǒng)、汽車自動煞車與駕駛系統(tǒng)、工廠自動化設備與即時示警、家庭智慧音箱……，邊緣計算應用的例子已經不勝凡舉，并從原來視覺與語音辯視計算擴大到其它 AI 計算，例如結合傳感器數(shù)據開發(fā)新應用。那些垂直市場與那些應用最有商業(yè)價值，下回我們來看看 AI + IoT 在各種垂直應用領域與情境的案例研討與價值分析。