如今,層出不窮的智能設(shè)備已滲透進(jìn)我們的生活里,語(yǔ)音助手、面部識(shí)別攝像頭,甚至是你的個(gè)人電腦都會(huì)或多或少的裝有這些東西。然而,它們并不能通過(guò)魔法來(lái)工作,需要一些東西來(lái)支持它們所做的所有數(shù)據(jù)處理。一些設(shè)備可以通過(guò)大量的數(shù)據(jù)中心在云端完成。其他設(shè)備則是通過(guò)人工智能(AI)芯片的幫助來(lái)完成所有處理。
據(jù)了解,AI技術(shù)的發(fā)展和應(yīng)用在美國(guó)、中國(guó)和歐盟等世界主要國(guó)家中已經(jīng)成為國(guó)家戰(zhàn)略,在國(guó)家的科技發(fā)展和產(chǎn)業(yè)競(jìng)爭(zhēng)中占據(jù)越來(lái)越重要的位置。同時(shí),AI技術(shù)在手寫識(shí)別(例如MNIST數(shù)據(jù)集)、人臉識(shí)別(例如Facebook的DeepFace)、語(yǔ)音識(shí)別(例如亞馬遜的Alexa、Apple的Siri、微軟的Cortana)、機(jī)器人技術(shù)(例如機(jī)器人操作系統(tǒng))、自動(dòng)駕駛(例如TartanRacing),甚至智力游戲(例如Google的AlphaGo)和視頻游戲(例如Pac-mAnt)等領(lǐng)域得到了廣泛應(yīng)用。隨著人工智能的發(fā)展,產(chǎn)生了更多的專業(yè)技術(shù),比如神經(jīng)網(wǎng)絡(luò)模型、機(jī)器學(xué)習(xí)等,依靠經(jīng)驗(yàn)學(xué)習(xí)而不是編程來(lái)做出決策。反過(guò)來(lái),機(jī)器學(xué)習(xí)為深度學(xué)習(xí)奠定了基礎(chǔ),深度學(xué)習(xí)涉及分層算法,以便更好地理解數(shù)據(jù)。
為訓(xùn)練而設(shè)計(jì)的芯片實(shí)際上扮演著網(wǎng)絡(luò)教師的角色,就像一個(gè)在學(xué)校的孩子。一個(gè)原始的神經(jīng)網(wǎng)絡(luò)最初是不發(fā)達(dá)的,通過(guò)輸入大量的數(shù)據(jù)來(lái)進(jìn)行訓(xùn)練。訓(xùn)練是依賴于計(jì)算的,所以我們需要專注于訓(xùn)練的AI芯片,它能夠快速有效地處理這些數(shù)據(jù)。芯片越強(qiáng)大,網(wǎng)絡(luò)學(xué)習(xí)速度就越快。
一旦一個(gè)網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練,它就需要用于推理的芯片,以便使用現(xiàn)實(shí)世界中的數(shù)據(jù),如面部識(shí)別、手勢(shì)識(shí)別、自然語(yǔ)言處理、圖像搜索、垃圾郵件過(guò)濾等。將推理視為你最有可能在人工智能系統(tǒng)中看到的方面,除非你從事的是訓(xùn)練方面的人工智能開(kāi)發(fā)。
你可以把訓(xùn)練看作是在編篡一本字典,而推理則類似于查找單詞并理解如何使用。兩者都是必要、共生的。
值得注意的是,為訓(xùn)練而設(shè)計(jì)的芯片也可以進(jìn)行推理,但推理芯片不能進(jìn)行訓(xùn)練。
云計(jì)算和邊緣
我們需要了解的AI芯片的另一個(gè)方面是,它可以用于云應(yīng)用和邊緣端,當(dāng)然,這也是需要訓(xùn)練和推理的。
云計(jì)算之所以有用,是因?yàn)樗目稍L問(wèn)性,因?yàn)樗墓δ芡耆梢栽诜莗rem情況下使用。在這些用例中,您不需要設(shè)備上的芯片來(lái)處理任何推理,這可以節(jié)省電力和成本。然而,在隱私和安全方面,它也有缺點(diǎn),因?yàn)閿?shù)據(jù)存儲(chǔ)在云服務(wù)器上,可能會(huì)遭到黑客攻擊。對(duì)于推理用例,它也可能效率較低,因?yàn)樗鼪](méi)有邊緣芯片那么專業(yè)。
處理“邊緣推理”的芯片也可以在一個(gè)設(shè)備上,比如面部識(shí)別攝像頭。因?yàn)樗械臄?shù)據(jù)都存儲(chǔ)在設(shè)備上,而且芯片通常都是為特定目的而設(shè)計(jì)——例如,面部識(shí)別攝像頭會(huì)使用一種擅長(zhǎng)運(yùn)行面部識(shí)別模型的芯片。但如在設(shè)備上增加另一個(gè)芯片會(huì)增加成本和電力消耗。重要的是要使用邊緣AI芯片來(lái)平衡成本和功率,以確保設(shè)備對(duì)其細(xì)分市場(chǎng)來(lái)說(shuō)成本剛剛好,或者不是太耗電。
以下是這些應(yīng)用程序和芯片通常是如何配對(duì)的:
云+訓(xùn)練
這種配對(duì)的目的是開(kāi)發(fā)用于推理的人工智能模型。這些模型最終細(xì)化為特定于用例的AI應(yīng)用程序。這些芯片功能強(qiáng)大,運(yùn)行成本昂貴,而且設(shè)計(jì)的目的是盡可能快地進(jìn)行訓(xùn)練。
訓(xùn)練芯片被用于訓(xùn)練Facebook的照片或谷歌翻譯,云推理芯片用于處理你輸入的數(shù)據(jù),使用這些公司創(chuàng)建的模型。其他例子包括人工智能聊天機(jī)器人或大型科技公司運(yùn)營(yíng)的人工智能服務(wù)。
邊緣+推理
使用設(shè)備上的邊緣芯片進(jìn)行推理可以消除任何與網(wǎng)絡(luò)不穩(wěn)定或延遲有關(guān)問(wèn)題,并且更好地保護(hù)所使用數(shù)據(jù)的隱私和安全性。其優(yōu)點(diǎn)是在上傳大量數(shù)據(jù)時(shí)所需的帶寬,特別是圖像或視頻等可視化數(shù)據(jù),無(wú)需相關(guān)成本,因此只要成本和功耗達(dá)到平衡,就可以比云計(jì)算更便宜、更高效。
比如耐能Kneron芯片,KL520和最近推出的KL720芯片,這是為設(shè)備上使用而設(shè)計(jì)的低功耗、低成本的芯片。比如他們的KL520,它能夠給 2D、3D 圖像識(shí)別提供支持,適配各種 2D、3D 傳感器,適用于結(jié)構(gòu)光、ToF、雙目視覺(jué)等 3D 傳感技術(shù)并計(jì)算不同神經(jīng)網(wǎng)絡(luò)模型,且兼具規(guī)格、性能、成本等多重優(yōu)點(diǎn),解決 3D 模組相對(duì)較貴、芯片成本高和硬件功耗高等問(wèn)題。正是這樣,這顆芯片能被廣泛應(yīng)用于智能門鎖、門禁系統(tǒng)、機(jī)器人、無(wú)人機(jī)、智能家電、智能玩具等智能物聯(lián)網(wǎng)領(lǐng)域。其他的比如英特爾Movidius和谷歌的Coral TPU。
應(yīng)用領(lǐng)域包括面部識(shí)別監(jiān)控?cái)z像頭,用于行人和危險(xiǎn)檢測(cè)或駕駛意識(shí)檢測(cè)的車輛攝像頭,以及用于語(yǔ)音助手的自然語(yǔ)言處理。
所有這些不同類型的芯片及其不同的實(shí)現(xiàn)、模型和用例都是未來(lái)AIoT發(fā)展的必要條件。如果得到5G等其他新興技術(shù)的支持,它們的性能將會(huì)更上一層樓。無(wú)論是在家里還是在工作中,人工智能正在迅速成為我們生活的重要組成部分,人工智能芯片空間的發(fā)展將迅速,不久的將來(lái)將會(huì)有更多類型的芯片問(wèn)市,讓我們的工作生活更加便利迅捷。
編輯:hfy
-
云計(jì)算
+關(guān)注
關(guān)注
39文章
7976瀏覽量
140139 -
AI
+關(guān)注
關(guān)注
88文章
35168瀏覽量
280136 -
語(yǔ)音助手
+關(guān)注
關(guān)注
7文章
241瀏覽量
27170 -
聊天機(jī)器人
+關(guān)注
關(guān)注
0文章
348瀏覽量
12803 -
自然語(yǔ)言處理
+關(guān)注
關(guān)注
1文章
628瀏覽量
14168
發(fā)布評(píng)論請(qǐng)先 登錄
評(píng)論