chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI如何在數(shù)以百億的MCU嵌入式應用中落地?

海思技術有限公司 ? 來源:上海海思 ? 2023-12-12 15:53 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

AI如何在數(shù)以百億的MCU嵌入式應用中落地?海思正在給出自己的答案。海思A2MCU聚焦行業(yè)專用(Application Specific)嵌入式AI技術(Artificial Intelligence),將AI領域超輕量級的技術框架、極致性能的推理要求、方便快速的部署能力與MCU深度融合,為MCU行業(yè)客戶探索智能化應用提供新的選擇。在TCL小藍翼P7新風空調發(fā)布會上,海思與TCL空調聯(lián)合發(fā)布“A2MCU,讓空調越用越節(jié)能”解決方案,正是A2MCU的初露鋒芒。

01714434-98c3-11ee-8b88-92fbcf53809c.jpg

為什么嵌入式AI關注度越來越高?

嵌入式AI是將AI算法嵌入到端側設備中,使得設備能夠具備智能化、自動化和高效化的能力。AI的歷史可以追溯到20世紀50年代,進入21世紀,受益于算力的迅猛提升,以及大數(shù)據(jù)、云計算、深度學習等技術發(fā)展,人工智能在圖像識別、語音識別、自然語言處理、機器人、自動駕駛等領域取得了突破性的進展。隨著應用的拓展和滲透,端側AI近幾年逐漸成為業(yè)界熱點。相對于數(shù)百萬到千萬的AI服務器,端側AI MCU的數(shù)量級將高達數(shù)以百億。基于現(xiàn)有的AI范式,由于資源的限制、模型的適應性等因素,AI越向下越難做,但同時AI下沉帶來的商業(yè)潛力也很大。因此將AI技術嵌入到端側最底層的MCU芯片,已成為業(yè)界領先MCU企業(yè)都在探索的新方向。

基于MCU的AI方案在行業(yè)落地,會有哪些困難?

由于MCU硬件性能限制、AI軟件的復雜度高、行業(yè)應用實時性要求高、能耗限制嚴格、數(shù)據(jù)安全性要求高,嵌入式AI在MCU的行業(yè)應用落地需要業(yè)務團隊同時具備豐富的AI知識經驗,以及嵌入式軟硬件能力。

一方面要開發(fā)團隊與落地場景之間要展開深度合作。基于真實場景的基礎數(shù)據(jù)及嵌入式AI團隊提供的專業(yè)的定制化方案,才能真正解決問題,做出價值。

另一方面要能夠實現(xiàn)AI模型到MCU的快速部署。通用AI模型往往并不是針對嵌入式應用設計,AI開發(fā)工具品類又非常龐雜,而MCU的RAM、Flash資源及CPU算力通常都非常受限,如何選擇合適的AI模型和開發(fā)工具用來開發(fā)出解決特定場景問題模型,又如何將AI模型部署到受限資源的MCU上,這是一個復雜的工程。

海思A2MCU嵌入式AI通過哪些關鍵技術解決了這些問題?

海思嵌入式AI提供了超輕量級的AI技術框架、極致性能完全滿足MCU的推理要求、并能夠將多模型快速轉換為代碼并導入工程,開發(fā)者進行方便快速的產品部署。

1)極簡框架:在MCU上部署的AI模型,轉為網絡層的運行代碼后,直接調用RISC-V核的優(yōu)化算子庫,省去了模型解析器等一般復雜的框架。RISC-V的開源架構支持自定義指令集,能夠更好的支持算子庫的優(yōu)化實現(xiàn),這也是RISC-V相對于其他內核的一個關鍵優(yōu)勢。

01815d56-98c3-11ee-8b88-92fbcf53809c.jpg

2)極致性能:意味著在確保場景收益的前提下,將訓練推理過程做到極簡。包括但不限于:訓練模型優(yōu)化:包括模型結構優(yōu)化,減少內存讀寫和計算量;模型訓練后量化,使模型更小,推理更快。算子的輕量化、內存優(yōu)化以及深度性能調優(yōu):通過算子庫輕量化、算子數(shù)據(jù)預重排與內存復用、使用算法減少乘法運算次數(shù)與內存訪問的開銷、深度算法調優(yōu)減少運算次數(shù),與訪存開銷進行平衡。

018894ae-98c3-11ee-8b88-92fbcf53809c.png

模型剪枝、壓縮的輕量化

019322f2-98c3-11ee-8b88-92fbcf53809c.png

訓練后量化,模型更小,推理更快

3)易開發(fā)部署:海思A2MCU嵌入式AI方案可提供多種模型的轉換,例如通過TensorFlow Lite、PyTorch、MindSpore等開發(fā)的模型,可快速便捷的轉成代碼,并導入部署到工程代碼中。

019a0810-98c3-11ee-8b88-92fbcf53809c.png

海思A2MCU嵌入式AI應用效果如何?

12月10日,在TCL小藍翼P7新風空調發(fā)布會上,海思與TCL空調聯(lián)合發(fā)布了“A2MCU,讓空調越用越節(jié)能”解決方案,該方案基于空調環(huán)境、運行和目標參數(shù),通過嵌入式AI算法對復雜工況進行學習,提高運行周期內的整體能效。通過業(yè)務場景和AI強化學習模型的深度融合,給空調產品的節(jié)能帶來代級的差異化競爭力,最終達成調溫階段能耗降低16%的效果。

01a51962-98c3-11ee-8b88-92fbcf53809c.jpg

結語

萬物智能時代,我們既需要云端大算力的訓練推理,也離不開嵌入式AI在千行百業(yè)的端側普惠應用。相對而言AI服務器的體量是百萬~千萬數(shù)量級,而小算力的MCU則是數(shù)百億數(shù)量級,嵌入式AI在綠色節(jié)能、人機交互、故障預測、安全防護等行業(yè)顯示出巨大的潛力。

在嵌入式AI技術中,AI和MCU的關系是相互促進、共同發(fā)展的,而嵌入式AI的難度也恰恰來自AI與MCU兩個技術分方向的跨界與結合。海思在AI和MCU領域都有近十年的積累和豐富應用經驗,致力于將以往經驗和技術積累應用于小算力AI場景,和行業(yè)伙伴一起聯(lián)合創(chuàng)新、創(chuàng)造增量價值。







審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • mcu
    mcu
    +關注

    關注

    146

    文章

    17984

    瀏覽量

    367071
  • 嵌入式
    +關注

    關注

    5152

    文章

    19675

    瀏覽量

    317640
  • RISC-V
    +關注

    關注

    46

    文章

    2573

    瀏覽量

    48839
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    嵌入式AI技術漫談 如何組建一個AI項目開發(fā)小組

    我們來談一談如何組建一個AI項目開發(fā)小組: 為什么要為嵌入式AI項目 組建一個專門的開發(fā)小組 相對于以往成熟的項目開發(fā)體系,嵌入式AI項目是
    的頭像 發(fā)表于 06-11 16:34 ?652次閱讀

    ETAS全新的嵌入式AI解決方案

    “將訓練后的AI神經網絡模型,自動化生成安全且高效的C代碼,用于嵌入式系統(tǒng)” ,近日ETAS攜全新的智能化工具Embedded AI Coder亮相2025上海國際車展。
    的頭像 發(fā)表于 05-07 11:43 ?684次閱讀
    ETAS全新的<b class='flag-5'>嵌入式</b><b class='flag-5'>AI</b>解決方案

    飛凌嵌入式2025嵌入式及邊緣AI技術論壇圓滿結束

    飛凌嵌入式「2025嵌入式及邊緣AI技術論壇」在深圳深鐵皇冠假日酒店盛大舉行,此次活動邀請到了200余位嵌入式技術領域的技術專家、企業(yè)代表和工程師用戶,共享
    的頭像 發(fā)表于 04-28 13:57 ?3352次閱讀
    飛凌<b class='flag-5'>嵌入式</b>2025<b class='flag-5'>嵌入式</b>及邊緣<b class='flag-5'>AI</b>技術論壇圓滿結束

    飛凌嵌入式2025嵌入式及邊緣AI技術論壇圓滿結束

    4月22日下午,備受矚目的飛凌嵌入式「2025嵌入式及邊緣AI技術論壇」在深圳深鐵皇冠假日酒店盛大舉行,此次活動邀請到了200余位嵌入式技術領域的技術專家、企業(yè)代表和工程師用戶,共享
    的頭像 發(fā)表于 04-27 11:55 ?279次閱讀
    飛凌<b class='flag-5'>嵌入式</b>2025<b class='flag-5'>嵌入式</b>及邊緣<b class='flag-5'>AI</b>技術論壇圓滿結束

    飛凌嵌入式「2025嵌入式及邊緣AI技術論壇」議程公布

    4月22日,飛凌嵌入式“2025嵌入式及邊緣AI技術論壇”將在深圳舉行,論壇以“新生態(tài),智未來”為主題,旨在匯聚行業(yè)智慧,探討嵌入式技術與邊緣AI
    的頭像 發(fā)表于 04-02 15:12 ?638次閱讀
    飛凌<b class='flag-5'>嵌入式</b>「2025<b class='flag-5'>嵌入式</b>及邊緣<b class='flag-5'>AI</b>技術論壇」議程公布

    新生態(tài) 智未來「飛凌嵌入式2025嵌入式及邊緣AI技術論壇」開啟報名!

    在這個技術日新月異的時代,每一場思想的碰撞都可能成為推動行業(yè)前行的力量,每一次深度對話都可能迸發(fā)出改變時代的強光——2025年4月22日,飛凌嵌入式將在深圳舉辦“2025嵌入式及邊緣AI技術論壇”,本次論壇以“新生態(tài),智未來”為
    的頭像 發(fā)表于 03-28 08:05 ?618次閱讀
    新生態(tài) 智未來「飛凌<b class='flag-5'>嵌入式</b>2025<b class='flag-5'>嵌入式</b>及邊緣<b class='flag-5'>AI</b>技術論壇」開啟報名!

    Banana Pi 發(fā)布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發(fā)

    助力 AI、智能制造和物聯(lián)網行業(yè)的發(fā)展。未來,Banana Pi 將繼續(xù)深化與Renesas的技術合作,推動更多高性能嵌入式解決方案的落地。 ” BPI-AI2N開發(fā)板賦能多場景應用,
    發(fā)表于 03-19 17:54

    AMD分析嵌入式邊緣AI的發(fā)展

    隨著人工智能( AI )技術廣泛應用于各行各業(yè),從云到邊緣的解決方案逐漸成為信息技術領域新的熱點。嵌入式邊緣 AI 在當今的各種邊緣應用中能夠大幅提升作業(yè)人員的生產力,帶動整個 AI
    的頭像 發(fā)表于 09-18 09:30 ?619次閱讀
    AMD分析<b class='flag-5'>嵌入式</b>邊緣<b class='flag-5'>AI</b>的發(fā)展

    嵌入式系統(tǒng)的未來趨勢有哪些?

    嵌入式系統(tǒng)是指將我們的操作系統(tǒng)和功能軟件集成于計算機硬件系統(tǒng)之中,形成一個專用的計算機系統(tǒng)。那么嵌入式系統(tǒng)的未來趨勢有哪些呢? 1. 人工智能與機器學習的整合 隨著現(xiàn)代人工智能(AI)和機器學習
    發(fā)表于 09-12 15:42

    開啟全新AI時代 智能嵌入式系統(tǒng)快速發(fā)展——“第六屆國產嵌入式操作系統(tǒng)技術與產業(yè)發(fā)展論壇”圓滿結束

    嵌入式系統(tǒng)是電子信息產業(yè)的基礎,是智能系統(tǒng)的核心。大模型催生AI走入千家萬戶、喚醒端側AI的需求爆發(fā)。以機器人、無人駕駛和智能制造為代表的智能嵌入式系統(tǒng)快速發(fā)展,操作系統(tǒng)在機器人和智能
    發(fā)表于 08-30 17:24

    恩智浦加速嵌入式AI創(chuàng)新應用開發(fā)

    AI應用飛速發(fā)展的今天,如何能夠將AI嵌入式系統(tǒng)開發(fā)有機結合起來,營造新的開發(fā)生態(tài),打造與眾不同的創(chuàng)新用例,一直是嵌入式開發(fā)者追求的目標。
    的頭像 發(fā)表于 08-27 09:46 ?1194次閱讀

    RT-Thread出席第六屆中國嵌入式技術大會,共話嵌入式操作系統(tǒng)與智能工業(yè)

    第六屆中國嵌入式技術大會將于8月27-28日在深圳會展中心(福田)1號館舉行。本屆大會以“AI與開源,開啟嵌入式系統(tǒng)智能新時代”為主題,聚焦人工智能與嵌入式應用、
    的頭像 發(fā)表于 08-03 08:35 ?744次閱讀
    RT-Thread出席第六屆中國<b class='flag-5'>嵌入式</b>技術大會,共話<b class='flag-5'>嵌入式</b>操作系統(tǒng)與智能工業(yè)

    嵌入式軟件開發(fā)與AI整合

    嵌入式軟件開發(fā)與AI整合是當前技術發(fā)展的重要趨勢之一。隨著人工智能技術的快速發(fā)展,嵌入式系統(tǒng)越來越多地集成了AI算法,以實現(xiàn)更復雜的智能功能。以下是關于
    的頭像 發(fā)表于 07-31 09:25 ?1370次閱讀
    <b class='flag-5'>嵌入式</b>軟件開發(fā)與<b class='flag-5'>AI</b>整合

    極海半導體亮相2024全球MCU嵌入式生態(tài)發(fā)展大會

    7月25日,由AspenCore主辦的2024全球MCU嵌入式生態(tài)發(fā)展大會,在深圳羅湖君悅酒店如期舉行。此次大會為來自消費電子、家電、工業(yè)控制、通信網絡、新能源汽車、物聯(lián)網領域、儲能領域的OEM廠商和嵌入式方案集成商代表帶來
    的頭像 發(fā)表于 07-26 15:18 ?1209次閱讀

    MCU如何實現(xiàn)AI功能

    MCU也開始能夠執(zhí)行一些基本的機器學習(ML)和AI任務,特別是通過優(yōu)化算法、使用簡化模型(如量化神經網絡)以及嵌入式優(yōu)化庫來實現(xiàn)。
    的頭像 發(fā)表于 07-19 11:51 ?1663次閱讀