chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

存內(nèi)計算之路——道阻且長,行則將至

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2022-05-24 00:02 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)如今隨著技術(shù)發(fā)展,計算任務(wù)越來越復(fù)雜,而在馮諾依曼架構(gòu)中,數(shù)據(jù)需要在存儲、內(nèi)存、緩存、計算單元中不斷搬運,造成大部分時間、帶寬、緩存、功耗都消耗在數(shù)據(jù)搬運上,而不是計算上,因此存儲墻成了一個越來越嚴重的問題。

存內(nèi)計算,故名思義就是把計算單元嵌入到內(nèi)存當中,理想中是可以完美解決存儲墻的問題,近幾年,三星、SK海力士、臺積電、英特爾、美光、阿里等半導(dǎo)體領(lǐng)域巨頭都在積極研發(fā),許多新興企業(yè)也陸續(xù)加入進來,并取得了不錯進展。

面對打得火熱的存內(nèi)計算,也有人認為,存內(nèi)計算可能行不通,有幾個方面的原因:一是AI算法模型的容量比較大,而這個在存儲器里面做計算,成本會非常高;二是受限于存儲芯片的工藝,比如說密度要做到很高,良品率要比較高,工藝就比較難以做到。

那么存內(nèi)計算到底可不可行?存內(nèi)計算未來的市場機會點在哪里?蘋芯科技CEO楊越在接受電子發(fā)燒友采訪時,針對在存儲器內(nèi)做計算成本不會太高,存儲芯片工藝能不能行,存內(nèi)計算的主要的應(yīng)用場景方向,做了詳細的分享和解答。

存內(nèi)計算到底可不可行


針對“AI算法模型的容量比較大,而這個在存儲器里面做計算,成本會非常高”的疑問,楊越解釋道,有人認為在存儲器里面做計算,成本會高,是因為他們認為要容下非常多網(wǎng)絡(luò)參數(shù),就需要把存儲器做得非常大,存儲器做大就意味著成本高。

針對這個問題,楊越表示目前已經(jīng)有很多方法可以解決。

第一,在算法模型上進行解決,即將網(wǎng)絡(luò)模型輕量化,比如知識蒸餾,簡單來說就是減少算法模型中的參數(shù)的存儲需求,目前已經(jīng)有很多非常成熟的方法,比如CNN壓縮,就是屬于這一類。

蘋芯科技以S200為基礎(chǔ)搭建的功能演示平臺,在這個演示系統(tǒng)里,就采用了其中一種基于神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索NAS的方法來得到輕量化的模型,而且能完成非常高的識別率,可以達到99%的關(guān)鍵字識別功能。S200是蘋芯首款可商用的存內(nèi)計算芯片,以S200為基礎(chǔ)搭建功能演示平臺,目的是演示在28nm工藝節(jié)點上的存內(nèi)計算可以跑通端對端的神經(jīng)網(wǎng)絡(luò)。

第二,從可擴展的架構(gòu)設(shè)計上著手。楊越表示我們可以試圖打破將整個算法模型必須同時全部加載到內(nèi)存中之后,才可以開始計算的固化假設(shè)。相應(yīng)地,一個好的存算架構(gòu)是可以支持以計算負載為主或以存儲負載為主的不同任務(wù),從而形成一個基于存內(nèi)計算的向上適配能力強的算力平臺。

第三,可以通過使用新型存儲器解決這個問題,包括磁性存儲器MRAM和憶阻器RRAM,相比于SRAM來說,MRAM和RRAM都有更高的存儲密度,所以從存儲單元介質(zhì)本身就可以做到更大,這樣可以達到存儲更多計算參數(shù)的目的。

可以看到,從這三個方面著手,都可以達到解決AI算法模型太大,存儲器要放下這么多數(shù)據(jù),需要把存儲器做得很大,從而帶來成本高的問題。

針對存儲芯片的工藝可能帶來限制的問題,楊越談到,蘋芯科技主要是基于SRAM的存內(nèi)計算,目前SRAM的工藝已經(jīng)非常成熟,就存儲器器件本身來說,市面上已經(jīng)有7nm、5nm的產(chǎn)品,成熟工藝的良率很有保證。

“另外,對于新型存儲器MRAM和RRAM,頭部代工廠也已經(jīng)有22nm甚至更高制程的量產(chǎn)線?!睏钤秸f,所以在他看來,存內(nèi)計算技術(shù)可以跟隨新型存儲器器件本身的技術(shù)逐步共同走向成熟。

另外需要提到的一點是,新型存儲器MRAM和RRAM雖然可以解決容量不大這個問題,但是作為一個新的產(chǎn)品類型,還存在一些挑戰(zhàn),比如在可靠性,耐用性上存在一些挑戰(zhàn)。不過楊越預(yù)計在近期未來新型存儲就會達到商業(yè)成熟化的程度。

蘋芯科技雖然成立時間不長,但是團隊在創(chuàng)業(yè)前期就已經(jīng)有很長時間的積累,存內(nèi)計算是一項技術(shù)壁壘非常高的工程,而蘋芯科技在包括從底層內(nèi)存器件的物理特性的理解,到上層芯片架構(gòu)的設(shè)計,再到最后產(chǎn)品落地成本的控制上都有足夠的積累,在各個技術(shù)棧都有自己的IP,蘋芯科技也是第一個擁有工業(yè)級28nm SRAM存內(nèi)計算加速單元DEMO的團隊,并首次利用RRAM存內(nèi)計算完成基于LeNet的CIFAR10的識別任務(wù)。

蘋芯科技下一代芯片S300已從代工廠回片,據(jù)楊越介紹,目前工程團隊,正在進行相應(yīng)的測試和展示工作,相較于S200,S300具有更強大的計算能力,可以兼容更多網(wǎng)絡(luò)模型,從而支持更豐富的邊緣端應(yīng)用場景。

存內(nèi)計算的機會點在哪里


我們知道,存內(nèi)計算有多種不同的技術(shù)路線,每個技術(shù)路線各有特點,比如Flash的優(yōu)點是密度比較高,DRAM成本會比較低,磁性存儲器MRAM、憶阻器RRAM除了存儲密度比較高之外,功耗也比較低,楊越說:“這兩類新型存儲器MRAM和RRAM代表著存內(nèi)計算的未來?!辈贿^因為是新技術(shù),就如上文所言,在工藝成熟度和商業(yè)化上還需要一些耐心。

蘋芯科技采用的是SRAM+MRAM和RRAM混合技術(shù)路線。楊越解釋說:“之所以選擇這樣的技術(shù)路線,背后的原因是,SRAM作為讀寫速度最快的內(nèi)存介質(zhì),具備很多優(yōu)勢,比如,它可以向更先進的制程節(jié)點兼容,具備高能效比的計算優(yōu)勢,同時它又不存在其他非易失性存儲所具備的耐久性問題,更重要的是,基于SRAM的設(shè)計方案,可以支持純數(shù)字化設(shè)計,從而能夠解決很多應(yīng)用場景所關(guān)心的精度問題?!?br />
蘋芯選擇新型存儲器,一是因為它具有高性能天花板,二是這也有利于團隊核心成員更好地發(fā)揮過往的技術(shù)積累和工程經(jīng)驗。

存內(nèi)計算未來的應(yīng)用個機會點在哪里呢?現(xiàn)在很多具有AI計算功能的芯片,包括GPU、FPGA以及NPU、SOC等,都是基于傳統(tǒng)的馮諾伊曼架構(gòu)設(shè)計的,會受到存儲墻、功耗墻的約束,這就導(dǎo)致他們在絕對計算上很強,但在整個計算效率上存在天花板。

而存內(nèi)計算就可以彌補這些問題,短期來看,存內(nèi)計算的主要市場機會主要會出現(xiàn)在端側(cè)的產(chǎn)品上,因為存內(nèi)計算的技術(shù)優(yōu)勢,能夠提供比較高的計算效率和比較低的功耗,比如可穿戴設(shè)備、智能家居等是非常適合存內(nèi)計算的應(yīng)用方向。

長期來看,隨著新型存儲器工藝的成熟,它不但會給低功耗的市場帶來機會,同時會把計算能力提升2-3個量級,讓存內(nèi)計算的應(yīng)用擴展到更多場景中,比如在一些用電量受限,但對絕對算力仍然有要求的場景層面,存內(nèi)計算就可以給客戶帶來差異化的選擇機會。

小結(jié)

如Gardner曲線的解讀,任何新興技術(shù)在發(fā)展初期都會經(jīng)歷一些起伏,尤其像存內(nèi)計算這種在底層上有巨大突破的技術(shù),從最初的熱捧,到發(fā)展期的理性,到成長期的企穩(wěn)上升,再到最后產(chǎn)品商業(yè)化。扎實的技術(shù)背景和可靠的工程化能力,是存內(nèi)計算企業(yè)立足市場并獲得客戶認可的重要基礎(chǔ)。我們期待著更多更好的技術(shù)與產(chǎn)品,為智能化場景描繪出更美好的未來。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)
    +關(guān)注

    關(guān)注

    8

    文章

    7348

    瀏覽量

    95008
  • 計算
    +關(guān)注

    關(guān)注

    2

    文章

    460

    瀏覽量

    40120
  • AI算法
    +關(guān)注

    關(guān)注

    0

    文章

    272

    瀏覽量

    13196
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    ISSCC 2026重磅:清華+華為+字節(jié)聯(lián)合發(fā)布內(nèi)計算芯片,重塑推薦系統(tǒng)能效邊界

    Recommendation System Acceleration》(HYDAR:面向高效推薦系統(tǒng)加速的混合內(nèi)計算框架),首次提出基于 28nm 工藝的混合
    的頭像 發(fā)表于 02-28 09:15 ?7387次閱讀
    ISSCC 2026重磅:清華+華為+字節(jié)聯(lián)合發(fā)布<b class='flag-5'>存</b><b class='flag-5'>內(nèi)</b><b class='flag-5'>計算</b>芯片,重塑推薦系統(tǒng)能效邊界

    MAX1298/MAX1299:12位串輸出溫度傳感器與5通ADC的卓越之選

    MAX1298/MAX1299:12位串輸出溫度傳感器與5通ADC的卓越之選 在電子設(shè)計領(lǐng)域,溫度和電壓的精確測量至關(guān)重要。今天,我們將深入探討MAX1298/MAX1299這兩款12位串輸出
    的頭像 發(fā)表于 04-09 16:35 ?190次閱讀

    MAX1098/MAX1099:10位串輸出溫度傳感器與5通ADC的卓越之選

    MAX1098/MAX1099:10位串輸出溫度傳感器與5通ADC的卓越之選 在電子設(shè)備中,溫度和電壓的精確監(jiān)測至關(guān)重要。今天,我們來深入了解一下Maxim公司推出的MAX1098
    的頭像 發(fā)表于 04-09 14:25 ?97次閱讀

    宜賓市委書記方好一蒞臨思必馳考察調(diào)研

    3月9日,宜賓市委書記方好一蒞臨思必馳考察調(diào)研,詳細了解企業(yè)發(fā)展歷程、技術(shù)創(chuàng)新與產(chǎn)業(yè)落地情況。相關(guān)領(lǐng)導(dǎo)及部門負責人陪同調(diào)研,思必馳董事、CEO 高始興熱情接待并作詳細介紹。
    的頭像 發(fā)表于 03-11 11:46 ?810次閱讀

    驅(qū)動之路#03:LCD 時序參數(shù)分析

    (有效行前的不可視行數(shù)),移動到首個有效的 “準備行數(shù)”;10 tvfp: 垂直下寬/前肩(有效后的不可視行數(shù)),掃完最后一后的 “收尾行數(shù)”;22 tvd: 每幀有效行數(shù)(分辨率垂直值),屏幕實際顯示的垂直像素數(shù)(行數(shù))
    的頭像 發(fā)表于 02-10 08:27 ?2063次閱讀
    驅(qū)動<b class='flag-5'>之路</b>#03:LCD 時序參數(shù)分析

    ONET2804TLP:高性能低功耗4通限幅跨放大器的深度解析

    ONET2804TLP:高性能低功耗4通限幅跨放大器的深度解析 在高速光互連應(yīng)用領(lǐng)域,對于高性能、低功耗的信號處理芯片需求日益增加。ONET2804TLP作為一款由德州儀器(TI)推出的低功耗
    的頭像 發(fā)表于 02-05 10:10 ?431次閱讀

    探索MAX40662:用于LiDAR的四通放大器

    探索MAX40662:用于LiDAR的四通放大器 引言 在當今科技飛速發(fā)展的時代,激光雷達(LiDAR)技術(shù)在自動駕駛、機器人等領(lǐng)域發(fā)揮著至關(guān)重要的作用。而MAX40662作為一款專為
    的頭像 發(fā)表于 01-15 16:40 ?252次閱讀

    探索 LTC6563:四通放大器的卓越性能與應(yīng)用

    探索 LTC6563:四通放大器的卓越性能與應(yīng)用 在電子工程師的設(shè)計世界里,高性能的放大器是構(gòu)建各種系統(tǒng)的關(guān)鍵組件。今天,我們將深入探討一款備受矚目的四通放大器——LTC6
    的頭像 發(fā)表于 01-15 14:20 ?444次閱讀

    通往AGI之路:為未來智能筑牢算力基礎(chǔ)

    命早期,人類大腦會從感知外界逐步進階到語言表達,繼而邁向邏輯思考與規(guī)劃能力。這一過程被稱為神經(jīng)可塑性曲線。Bratt 指出,人工智能 (AI) 正沿著一條類似的路徑演進,當前已處于“認知能力的臨界點”。 如今,我們正親眼見證這一演進過程。當前的 AI 模型能力已今非昔
    的頭像 發(fā)表于 11-29 20:10 ?2043次閱讀

    晶口型鎖器CJ74HC573系列、CJ74HCT573系列與TI、安世對應(yīng)料號替代指南

    在現(xiàn)代電子電路設(shè)計中,鎖器作為一種基本數(shù)字邏輯部件,廣泛應(yīng)用于數(shù)據(jù)存儲、地址鎖與總線驅(qū)動等場景。晶半導(dǎo)體推出的多款8位口型鎖器,在性能、溫度適應(yīng)性與封裝形式上均表現(xiàn)出色,并可完
    的頭像 發(fā)表于 11-19 17:15 ?1134次閱讀
    <b class='flag-5'>長</b>晶口型鎖<b class='flag-5'>存</b>器CJ74HC573系列、CJ74HCT573系列與TI、安世對應(yīng)料號替代指南

    內(nèi)計算芯片,熱度大增

    研究人員專注于限制數(shù)據(jù)移動以減少邊緣設(shè)備的功耗和延遲。在大眾媒體中,“人工智能”通常意味著在昂貴耗電的數(shù)據(jù)中心運行的大型語言模型。然而,對于許多應(yīng)用程序來說,在本地硬件上運行的小型模型更為合適
    的頭像 發(fā)表于 10-28 10:09 ?582次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>內(nèi)</b><b class='flag-5'>計算</b>芯片,熱度大增

    比亞迪新能源車隊護航2025絲綢之路萬里

    近日,作為第二屆上海合作組織國家電視節(jié)核心活動,2025絲綢之路萬里“上合之路·一路向前”大型跨國全媒體活動于西安盛大啟程。作為本次活動的官方指定用車,比亞迪旗下王朝、海洋、方程豹、騰勢、仰望的多款新能源車型將為全媒體采訪團護
    的頭像 發(fā)表于 07-23 11:26 ?933次閱讀

    “算平衡”有多重要?

    。而決定這種配合效率的關(guān)鍵指標,正是我們今天要聊的“算比”。什么是算比?算比=計算能力(如每秒浮點運算次數(shù))÷存儲容量(如GB/TB),但更核心的是
    的頭像 發(fā)表于 07-11 14:06 ?868次閱讀
    “算<b class='flag-5'>存</b>平衡”有多重要?

    中國EDA產(chǎn)業(yè)自主化:,則將至

    電子設(shè)計自動化(EDA)軟件是集成電路(IC)設(shè)計的基石,被譽為“芯片之母”,其重要性不言而喻。目前,全球EDA市場高度集中,主要由美國的Synopsys、Cadence以及德國西門子旗下的Mentor Graphics(現(xiàn)為Siemens EDA)這三大巨頭壟斷。中國芯片產(chǎn)業(yè)的崛起,使得EDA工具的自主可控成為國家戰(zhàn)略層面的重要議題。那么,中國通過自己培養(yǎng)人才、發(fā)展本土產(chǎn)品來取代國際EDA巨頭的產(chǎn)品與服務(wù),究竟需要多長時間? ? 這是一個復(fù)雜的問題,采訪不同的專家,也都難
    發(fā)表于 06-04 14:04 ?4970次閱讀
    中國EDA產(chǎn)業(yè)自主化:<b class='flag-5'>道</b><b class='flag-5'>阻</b><b class='flag-5'>且</b><b class='flag-5'>長</b>,<b class='flag-5'>行</b><b class='flag-5'>則將至</b>

    第二屆知科技杯華東高校內(nèi)計算創(chuàng)新應(yīng)用大賽正式啟動

    在數(shù)字化浪潮席卷各行業(yè)的當下,數(shù)據(jù)量呈爆炸式增長,算力需求也水漲船高。內(nèi)計算架構(gòu)作為創(chuàng)新解決方案,備受產(chǎn)學研各界關(guān)注。為推動內(nèi)
    的頭像 發(fā)表于 05-06 17:51 ?993次閱讀