chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

算法框架是AI芯片與商業(yè)應(yīng)用的橋梁

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2022-06-19 08:00 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)近些年AI模型的應(yīng)用場景飛速擴(kuò)展,包括自動駕駛、智慧城市、教育、醫(yī)療、金融等等,行業(yè)的多樣性和應(yīng)用場景的分散,使得AI模型爆炸式增長。

在日前某論壇上,商湯科技聯(lián)合創(chuàng)始人兼大裝置首席科學(xué)家林大華談到,商湯科技每年要生產(chǎn)幾萬個AI模型,然而模型豐富,算子的長尾效應(yīng)也很明顯,10% 經(jīng)典算子雖然占據(jù)90% AI芯片算力,而90%長尾算子卻占據(jù)大量計(jì)算時間。

多元化的應(yīng)用催生了多樣的算法框架,算法支持應(yīng)用,而算法框架是將算法用于解決實(shí)際問題,助力AI芯片算力價值體現(xiàn),充當(dāng)AI芯片與應(yīng)用的橋梁。

比如說算法就是諸如LR、GBDT、DNN、DeepFM這樣的實(shí)際解決某個數(shù)學(xué)問題的公式實(shí)現(xiàn)。算法框架可以讓算法執(zhí)行更高效,比如最早玩深度學(xué)習(xí)的人都用Theano,基于Theano去開發(fā)算法很困難,后來有了PyTorch和TensorFlow,讓基于深度學(xué)習(xí)的算法開發(fā)更方便。

目前算法框架已經(jīng)非常豐富,包括PyTorch、TensorFlow,還有商湯科技開源的Sense Parrots,華為開源的昇思MindSpore,百度飛槳PaddlePaddle等等。

算法工程師其實(shí)是基于算法框架開發(fā)AI算法的,也就是說深度學(xué)習(xí)框架銜接起了硬件芯片算力和上面AI算法應(yīng)用,然而AI訓(xùn)練框架逐漸豐富,但未形成統(tǒng)一的芯片接口,這使得AI訓(xùn)練芯片對框架逐一適配的成本高昂,這也阻礙了AI芯片在市場應(yīng)用上的快速迭代。

為此,商湯科技希望基于已經(jīng)開源開放的算法體系,構(gòu)建統(tǒng)一的接口,把大家協(xié)同在一起,在軟件層面,在算法的結(jié)構(gòu)分解出一些標(biāo)準(zhǔn)算子,表明哪些算子在哪些應(yīng)用場景中最為重要,這樣可以讓大家能夠把有限的適配資源,投放到更有用的地方。

商湯給出的軟件解決方案包括了算法分級體系和標(biāo)準(zhǔn)算子接口體系。據(jù)林大華介紹,算法分級體系首先是從影響力、性能、部署特性三個維度,即算法模型在學(xué)術(shù)界和工業(yè)界的影響力,算法模型的精度和速度,以及算法模型的部署友好性,將AI算法進(jìn)行分級,這樣可以給出方向性的應(yīng)用參考。

接著是卷積輸入配置頻率統(tǒng)計(jì),每個算法模型在實(shí)際訓(xùn)練中存在不同的卷積輸入?yún)?shù)配置,不同參數(shù)配置的卷積算子使用頻率存在較大的差異。

再得出高優(yōu)Spec優(yōu)化清單,從算法模型優(yōu)先級評估+模型卷積輸入配置頻率,得到模型重要性和卷積輸入配置頻率加權(quán)評分,再得到高優(yōu)Spec優(yōu)化清單,芯片廠商可參考優(yōu)化的清單進(jìn)行針對性優(yōu)化。

總之,基于算法分級體系的算子優(yōu)化方法可以助力挖掘高優(yōu)Spec,確認(rèn)常用卷積輸入配置優(yōu)化優(yōu)先級,提高芯片廠商適配能效。

長尾算子在實(shí)際應(yīng)用中占比非常高,但卻不在標(biāo)準(zhǔn)算法庫里面,因此需要建立標(biāo)準(zhǔn)算子接口來提升芯片和框架的適配。

標(biāo)準(zhǔn)算子接口體系,包括統(tǒng)一算子接口及函數(shù)簽名和一致性測試套件。主要特點(diǎn)是,不依賴具體的框架和芯片,邏輯簡單、易閱讀、易擴(kuò)展,與標(biāo)準(zhǔn)接口定義保持一致,具有可移植性和強(qiáng)適用性,提供一致性的錯誤處理機(jī)制,支持主流開發(fā)框架和應(yīng)用模型。

傳統(tǒng)芯片和框架適配流程,存在這樣的問題:1、廠商合作前溝通成本高;2、適配工作量難度高,風(fēng)險難以控制;3、適配案例和經(jīng)驗(yàn)難以復(fù)用到其它芯片和框架適配場景中。而接入標(biāo)準(zhǔn)算子接口體系的芯片和框架適配流程,有幾個優(yōu)點(diǎn):1、廠商合作前沒有額外溝通成本;2、工作量小、難度低,風(fēng)險可控;3、一次接入即可完成對主流芯片、框架適配場景的支持。

整體而言,近些年AI產(chǎn)業(yè)在芯片算力、算法、框架,以及應(yīng)用方面都有很大的進(jìn)步,然而如果AI產(chǎn)業(yè)要長期健康的發(fā)展,還需要上下游機(jī)構(gòu)、廠商一起,攜手合作構(gòu)建出一個繁榮的生態(tài),這中間的算法框架在連接起底層芯片和上層業(yè)務(wù)方面,承擔(dān)著重要責(zé)任。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    2031

    瀏覽量

    36381
  • AI算法
    +關(guān)注

    關(guān)注

    0

    文章

    266

    瀏覽量

    12973
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片到AGI芯片

    、現(xiàn)階段更智能、更接近AGI的6中算法與模型 1、MoE模型 MoE模型作為Transfomer模型的后繼者,代表著AI技術(shù)的一項(xiàng)重大創(chuàng)新和發(fā)展。 優(yōu)勢: 在于能處理龐大的參數(shù)規(guī)模,顯著減少內(nèi)存占用
    發(fā)表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI的科學(xué)應(yīng)用

    主要步驟: ①溯因②假說③實(shí)驗(yàn) 1、科學(xué)推理的類型 ①演繹②歸納 2、自動化科學(xué)發(fā)現(xiàn)框架 AI-笛卡兒-----自動化科學(xué)發(fā)現(xiàn)框架,利用數(shù)據(jù)和知識來生成和評估候選的科學(xué)假說。 4項(xiàng)規(guī)則:三、直覺
    發(fā)表于 09-17 11:45

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPU、GPU、FPGA、ASIC都是AI芯片。 其他的還是知道的,F(xiàn)PGA屬于AI
    發(fā)表于 09-12 16:07

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+可期之變:從AI硬件到AI濕件

    的不同。隨著AI熱潮的興起,大腦的抽象模型已被提煉成各種的AI算法,并使用半導(dǎo)體芯片技術(shù)加以實(shí)現(xiàn)。 而大腦是一個由無數(shù)神經(jīng)元通過突觸連接而成的復(fù)雜網(wǎng)絡(luò),是極其復(fù)雜和精密的。大腦在本質(zhì)上
    發(fā)表于 09-06 19:12

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+內(nèi)容總覽

    ,其中第一章是概論,主要介紹大模型浪潮下AI芯片的需求與挑戰(zhàn)。第二章和第三章分別介紹實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法和架構(gòu)。以及一些新型的算法
    發(fā)表于 09-05 15:10

    AI 芯片浪潮下,職場晉升新契機(jī)?

    芯片設(shè)計(jì)為例,從最初的架構(gòu)選型,到算法適配、性能優(yōu)化,每個環(huán)節(jié)都考驗(yàn)著工程師的專業(yè)素養(yǎng)。在設(shè)計(jì)一款面向智能安防領(lǐng)域的 AI 芯片時,需要深入研究安防場景下圖像識別
    發(fā)表于 08-19 08:58

    【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》

    到AGI,一起來探索AI芯片 本書從創(chuàng)新視角出發(fā),系統(tǒng)梳理了AI芯片的前沿技術(shù)與未來方向,串聯(lián)起從算法到系統(tǒng)的實(shí)現(xiàn)路徑,全景式展現(xiàn)
    發(fā)表于 07-28 13:54

    AlphaEvolve有望革新AI玩具芯片設(shè)計(jì),算法進(jìn)化驅(qū)動能效與成本雙突破

    電子發(fā)燒友網(wǎng)綜合報道,近期,谷歌?DeepMind發(fā)布了一款A(yù)lphaEvolve,是一款通用科學(xué)AI代理,基于大語言模型Gemini系列與進(jìn)化計(jì)算框架,專注于算法發(fā)現(xiàn)與優(yōu)化??梢灾С?jǐn)?shù)百行代碼
    的頭像 發(fā)表于 06-18 00:09 ?3375次閱讀

    Deepseek海思SD3403邊緣計(jì)算AI產(chǎn)品系統(tǒng)

    海思SD3403邊緣計(jì)算AI框架,提供了一套開放式AI訓(xùn)練產(chǎn)品工具包,解決客戶低成本AI系統(tǒng),針對差異化AI 應(yīng)用場景,自己采集樣本數(shù)據(jù),進(jìn)
    發(fā)表于 04-28 11:05

    AI算法托管平臺是什么

    AI算法托管平臺是一種提供AI模型運(yùn)行、管理和優(yōu)化等服務(wù)的云端或邊緣計(jì)算平臺。下面,AI部落小編帶您詳細(xì)了解AI
    的頭像 發(fā)表于 03-06 10:22 ?690次閱讀

    AI Agent 應(yīng)用與項(xiàng)目實(shí)戰(zhàn)》閱讀心得2——客服機(jī)器人、AutoGen框架 、生成式代理

    ,斯坦福小鎮(zhèn)是一個非常有有意思的項(xiàng)目。生成式智能體作為AI領(lǐng)域的革命性突破,向我們揭示了計(jì)算機(jī)模擬人類行為的無限可能。憑借其創(chuàng)新的技術(shù)架構(gòu)與精密的算法設(shè)計(jì),這些智能體能夠在虛擬環(huán)境中栩栩如生地生活與交互
    發(fā)表于 02-25 21:59

    AI商業(yè)應(yīng)用平臺的特點(diǎn)

    AI商業(yè)應(yīng)用平臺集成了自然語言處理、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等前沿的人工智能技術(shù)。以下,是對AI商業(yè)應(yīng)用平臺特點(diǎn)的整理,由AI部落小編整理。
    的頭像 發(fā)表于 02-22 09:58 ?739次閱讀

    AI賦能邊緣網(wǎng)關(guān):開啟智能時代的新藍(lán)海

    的引入徹底改變了這一局面。通過在邊緣網(wǎng)關(guān)集成AI芯片算法模型,使其具備了實(shí)時數(shù)據(jù)分析、智能決策和自主控制能力。在工業(yè)質(zhì)檢場景中,搭載AI算法
    發(fā)表于 02-15 11:41

    涂鴉Wukong AI硬件開發(fā)框架超強(qiáng)兼容DeepSeek等大模型,助你打造爆款AI硬件

    一、什么是“Wukong”?涂鴉全新推出的“Wukong”AI硬件開發(fā)框架,是為實(shí)現(xiàn)AI硬件領(lǐng)域的商業(yè)化而專門開發(fā)設(shè)計(jì)的創(chuàng)新平臺。它基于TuyaOS所構(gòu)建,繼承了諸多優(yōu)勢,如跨平臺兼容
    的頭像 發(fā)表于 02-13 20:58 ?1326次閱讀
    涂鴉Wukong <b class='flag-5'>AI</b>硬件開發(fā)<b class='flag-5'>框架</b>超強(qiáng)兼容DeepSeek等大模型,助你打造爆款<b class='flag-5'>AI</b>硬件

    AI開發(fā)框架集成介紹

    隨著AI應(yīng)用的廣泛深入,單一框架往往難以滿足多樣化的需求,因此,AI開發(fā)框架的集成成為了提升開發(fā)效率、促進(jìn)技術(shù)創(chuàng)新的關(guān)鍵路徑。以下,是對AI
    的頭像 發(fā)表于 01-07 15:58 ?763次閱讀