chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

通過(guò)平衡傳播獲得更好的AI芯片

倩倩 ? 來(lái)源:文財(cái)網(wǎng) ? 2020-09-25 10:48 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

AI專業(yè)人員一直在追求一種AI,它肯定會(huì)降低做普通AI事情所需的能量,例如感知單詞和圖片。這種機(jī)器學(xué)習(xí)模擬類型利用電路的物理原理而不是數(shù)字原理來(lái)完成神經(jīng)網(wǎng)絡(luò)的一項(xiàng)重要數(shù)學(xué)任務(wù)。但是,限制該方法的主要因素之一是深度學(xué)習(xí)的訓(xùn)練算法(反向傳播)必須由GPU或其他單獨(dú)的數(shù)字框架來(lái)完成。

神經(jīng)形態(tài)芯片初創(chuàng)公司Rain Neuromorphics與加拿大研究院Mila之間的研究合作表明,可以想象使用完全模擬的硬件來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò),這為端到端的模擬神經(jīng)網(wǎng)絡(luò)提供了機(jī)會(huì)。這對(duì)神經(jīng)形態(tài)處理和AI硬件整體具有重大影響-它保證了完全可用于訓(xùn)練和推理的模擬AI芯片,從而顯著節(jié)省了計(jì)算,功耗,等待時(shí)間和大小。這項(xiàng)進(jìn)步將工程學(xué)和深度學(xué)習(xí)的紐帶聯(lián)系在一起,為AI動(dòng)力機(jī)器人打開了入口之門,這種機(jī)器人可以在現(xiàn)場(chǎng)獨(dú)自學(xué)習(xí),就像人類一樣。

在由“人工智能的教父”之一,獲獎(jiǎng)?wù)遈oshua Bengio共同創(chuàng)建的題為“具有均衡傳播的端到端模擬神經(jīng)網(wǎng)絡(luò)訓(xùn)練”的論文中,分析家們表明,可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)來(lái)利用交叉開關(guān)憶阻器的展示,就像在當(dāng)今使用內(nèi)存中處理器方法的商業(yè)AI加速器芯片中使用的安排一樣,卻沒有在網(wǎng)絡(luò)的每一層之間使用相關(guān)的ADCDAC。結(jié)果為潛力更大的高能效AI硬件提供了潛力

Rain Neuromorphics首席執(zhí)行官戈登·威爾遜(Gordon Wilson)表示:“如今,能源利用和成本是最大的制約因素,使我們無(wú)法交付新型人工智能。我們確實(shí)需要找到一種無(wú)可否認(rèn)地更有效的計(jì)算基礎(chǔ),一種本質(zhì)上可以提高能源效率的基礎(chǔ),一種允許我們不將培訓(xùn)局限于大型數(shù)據(jù)中心的基礎(chǔ),但除此之外,我們還可以進(jìn)入一個(gè)可以設(shè)想免費(fèi),自主的世界,能源無(wú)限的設(shè)備,獨(dú)自學(xué)習(xí)。同樣,這是我們認(rèn)為這一新進(jìn)展正在打開通向的大門?!?/p>

分析人員已經(jīng)對(duì)MNIST分類(改良的美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院手寫數(shù)字?jǐn)?shù)據(jù)庫(kù))的端到端模擬神經(jīng)網(wǎng)絡(luò)進(jìn)行了模擬訓(xùn)練,其性能與相同大小的基于軟件的神經(jīng)網(wǎng)絡(luò)相似或更好。

模擬電路可以在某種程度上節(jié)省神經(jīng)網(wǎng)絡(luò)的功率,因?yàn)??它們可以熟練地進(jìn)行稱為乘法和累加的關(guān)鍵計(jì)算。該估計(jì)值會(huì)根據(jù)不同的負(fù)載乘以貢獻(xiàn)值,然后匯總這些值中的每一個(gè)。電氣工程的兩個(gè)基本定律也可以從根本上做到這一點(diǎn)。歐姆定律將電壓和電導(dǎo)相乘以提供電流,基爾霍夫的“電流定律”將輸入點(diǎn)的電流相加。通過(guò)將神經(jīng)網(wǎng)絡(luò)的權(quán)重存儲(chǔ)在電阻式存儲(chǔ)小部件(例如憶阻器)中,乘法和累加可以完全以模擬方式發(fā)生,可以將功耗降低幾個(gè)數(shù)量級(jí)。

如今,模擬AI系統(tǒng)無(wú)法訓(xùn)練自己的原因與零件的可變性息息相關(guān)。與真實(shí)神經(jīng)元非常相似,模擬神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元并非完全無(wú)法區(qū)分。要對(duì)模擬段進(jìn)行反向傳播,您應(yīng)該制造兩條單獨(dú)的電路路徑。一個(gè)人繼續(xù)思考一個(gè)答案(稱為推理),另一個(gè)人反過(guò)來(lái)進(jìn)行學(xué)習(xí),因此適當(dāng)?shù)幕卮鹱兊酶訙?zhǔn)確。但是由于模擬成分的可變性,這些途徑無(wú)法協(xié)調(diào)。

平衡傳播(EqProp),由Bengio和Scellier在2017年設(shè)計(jì)的一種方法。這種訓(xùn)練算法只有一條數(shù)據(jù)路徑,因此可以避免模擬硬件中的反向傳播問(wèn)題。但是有一個(gè)警告。EqProp僅適用于基于能源的網(wǎng)絡(luò)。

結(jié)果是,盡管EqProp自2017年以來(lái)就已經(jīng)存在,但這項(xiàng)新工作已將抽象思想轉(zhuǎn)變?yōu)榭梢酝ㄟ^(guò)電路物理識(shí)別的事物。這將使端到端的模擬計(jì)算成為可能,而無(wú)需在每個(gè)步驟都切換到數(shù)字域或從數(shù)字域切換。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    460

    文章

    52520

    瀏覽量

    441037
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8503

    瀏覽量

    134634
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5561

    瀏覽量

    122799
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI芯片:加速人工智能計(jì)算的專用硬件引擎

    處理等應(yīng)用落地的關(guān)鍵硬件基礎(chǔ)。 ? AI芯片的核心技術(shù)特點(diǎn) ? ? AI芯片的設(shè)計(jì)重點(diǎn)在于提升計(jì)算效率,主要技術(shù)特點(diǎn)包括: ? 1. ? 并行計(jì)算架構(gòu) ?:
    的頭像 發(fā)表于 07-09 15:59 ?152次閱讀

    AI玩具芯片如何尋找性能、功耗與成本之間的平衡點(diǎn)

    之間找到適合的方案?本文結(jié)合實(shí)際案例,總結(jié)芯片選型的核心原則與開發(fā)經(jīng)驗(yàn)。 ? AI 玩具芯片選擇的三大核心原則 ? 對(duì)于AI玩具而言,芯片
    的頭像 發(fā)表于 04-29 08:24 ?1404次閱讀

    自制一個(gè)支持AI 控制的無(wú)刷平衡車機(jī)器人:開源項(xiàng)目D-BOT全攻略

    今天給大家介紹一款創(chuàng)意桌面機(jī)器人——D-BOT!它不僅是一個(gè)功能強(qiáng)大的平衡車機(jī)器人,也是一個(gè)融合了AI控制、3D建模與PCB設(shè)計(jì)的開源項(xiàng)目。 D-BOT 被作者稱為“小探險(xiǎn)家”(Discovery
    發(fā)表于 04-28 11:45

    海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述

    AI數(shù)據(jù)訓(xùn)練:基于用戶特定應(yīng)用場(chǎng)景,用戶采集照片或視頻,通過(guò)AI數(shù)據(jù)訓(xùn)練工程師**(用戶公司****員工)** ,進(jìn)行特征標(biāo)定后,將標(biāo)定好的訓(xùn)練樣本,通過(guò)
    發(fā)表于 04-28 11:11

    智芯公司安全藍(lán)牙芯片獲得BQB權(quán)威認(rèn)證

    近日,智芯公司自主研發(fā)的安全藍(lán)牙芯片成功通過(guò)藍(lán)牙技術(shù)聯(lián)盟(SIG)的BQB(Bluetooth Qualification Body)全面認(rèn)證,成為國(guó)內(nèi)藍(lán)牙芯片領(lǐng)域獲得BQB權(quán)威認(rèn)證的
    的頭像 發(fā)表于 03-18 14:13 ?634次閱讀

    FPGA+AI王炸組合如何重塑未來(lái)世界:看看DeepSeek東方神秘力量如何預(yù)測(cè)......

    的強(qiáng)化學(xué)習(xí)架構(gòu)正在改寫芯片設(shè)計(jì)規(guī)則——通過(guò)自主進(jìn)化算法,F(xiàn)PGA布局布線效率提升300%,這或許預(yù)示著芯片設(shè)計(jì)將進(jìn)入"AI自編程"時(shí)代。在這場(chǎng)智能
    發(fā)表于 03-03 11:21

    AI芯片上的應(yīng)用:革新設(shè)計(jì)與功能

    AI芯片上的應(yīng)用正在深刻改變著芯片設(shè)計(jì)、制造和應(yīng)用的全過(guò)程。未來(lái),隨著AI技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷拓展,AI
    的頭像 發(fā)表于 02-17 16:09 ?587次閱讀

    什么是BP神經(jīng)網(wǎng)絡(luò)的反向傳播算法

    神經(jīng)網(wǎng)絡(luò)(即反向傳播神經(jīng)網(wǎng)絡(luò))的核心,它建立在梯度下降法的基礎(chǔ)上,是一種適合于多層神經(jīng)元網(wǎng)絡(luò)的學(xué)習(xí)算法。該算法通過(guò)計(jì)算每層網(wǎng)絡(luò)的誤差,并將這些誤差反向傳播到前一層,從而調(diào)整權(quán)重,使得網(wǎng)絡(luò)的預(yù)測(cè)更接近真實(shí)值。 二、算法原理 反向
    的頭像 發(fā)表于 02-12 15:18 ?774次閱讀

    歐冶半導(dǎo)體獲得Ceva SensPro? Vision AI DSP授權(quán)

    Semiconductor)已成功獲得Ceva的SensPro? Vision AI DSP授權(quán)許可。 此次授權(quán)許可針對(duì)的是歐冶半導(dǎo)體公司的龍泉560系列高級(jí)駕駛輔助系統(tǒng)(ADAS)芯片組。該
    的頭像 發(fā)表于 01-14 14:30 ?663次閱讀

    通過(guò)微透鏡陣列的傳播

    使用最新發(fā)布的版本中引入的一個(gè)新的MLA組件來(lái)設(shè)置和模擬這樣的系統(tǒng),允許對(duì)微透鏡組件后面的近場(chǎng)以及遠(yuǎn)場(chǎng)和焦點(diǎn)區(qū)域的傳輸場(chǎng)進(jìn)行徹底的研究。 微透鏡陣列后光傳播的研究 本用例研究微透鏡陣列后傳播的光。給出并
    發(fā)表于 01-08 08:49

    AI芯片在智能手機(jī)中具體怎么用?

    AI芯片在智能手機(jī)中的應(yīng)用主要體現(xiàn)在以下幾個(gè)方面: 圖像處理和智能拍照:AI芯片通過(guò)深度學(xué)習(xí)算法,可以識(shí)別場(chǎng)景、人物等信息,并自動(dòng)調(diào)整拍攝參
    的頭像 發(fā)表于 01-03 14:02 ?1084次閱讀

    通過(guò)微透鏡陣列的傳播

    使用最新發(fā)布的版本中引入的一個(gè)新的MLA組件來(lái)設(shè)置和模擬這樣的系統(tǒng),允許對(duì)微透鏡組件后面的近場(chǎng)以及遠(yuǎn)場(chǎng)和焦點(diǎn)區(qū)域的傳輸場(chǎng)進(jìn)行徹底的研究。 微透鏡陣列后光傳播的研究 本用例研究微透鏡陣列后傳播的光。給出并
    發(fā)表于 12-11 11:32

    蘋果利用AWS定制AI芯片提升服務(wù)

    。 據(jù)了解,蘋果目前正積極利用AWS的定制AI芯片來(lái)提升其搜索等核心服務(wù)的性能和效率。通過(guò)借助AWS的專業(yè)技術(shù)和資源,蘋果能夠更好地滿足全球客戶的需求,提供更加智能化、高效化的服務(wù)體驗(yàn)
    的頭像 發(fā)表于 12-05 14:14 ?562次閱讀

    【每天學(xué)點(diǎn)AI】前向傳播、損失函數(shù)、反向傳播

    在深度學(xué)習(xí)的領(lǐng)域中,前向傳播、反向傳播和損失函數(shù)是構(gòu)建和訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的三個(gè)核心概念。今天,小編將通過(guò)一個(gè)簡(jiǎn)單的實(shí)例,解釋這三個(gè)概念,并展示它們的作用。前向傳播:神經(jīng)網(wǎng)絡(luò)的“思考”過(guò)
    的頭像 發(fā)表于 11-15 10:32 ?1226次閱讀
    【每天學(xué)點(diǎn)<b class='flag-5'>AI</b>】前向<b class='flag-5'>傳播</b>、損失函數(shù)、反向<b class='flag-5'>傳播</b>

    動(dòng)平衡校正和振動(dòng)測(cè)量有關(guān)嗎?

    動(dòng)平衡校正和振動(dòng)測(cè)量有關(guān)嗎?動(dòng)平衡和測(cè)量振動(dòng)是相關(guān)但不同的概念。振動(dòng)檢測(cè)是一種通過(guò)監(jiān)測(cè)機(jī)械系統(tǒng)的振動(dòng)來(lái)識(shí)別問(wèn)題的方法。它涉及測(cè)量振動(dòng)的振幅、頻率、相位和譜分析等參數(shù)。動(dòng)平衡是一種專門針
    的頭像 發(fā)表于 10-18 11:21 ?485次閱讀
    動(dòng)<b class='flag-5'>平衡</b>校正和振動(dòng)測(cè)量有關(guān)嗎?