chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

加速邊緣設(shè)備中計算機(jī)視覺和語音的AI推理模型

星星科技指導(dǎo)員 ? 來源:嵌入式計算設(shè)計 ? 作者:Saumitra Jagdale ? 2022-10-19 09:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

加速AI推理模型已成為一項基本任務(wù),因為我們正朝著創(chuàng)建更復(fù)雜,更高效的AI應(yīng)用程序邁進(jìn)。靈活和完整的AI輔助是在快速增長的AI領(lǐng)域取得成功的關(guān)鍵組成部分。

RISC-V被設(shè)計為模塊化的,有幾個基本部分和可能的附加部分。ISA的基礎(chǔ)和擴(kuò)展是工業(yè)界,學(xué)術(shù)界和研究界之間合作努力的結(jié)果。指令及其編碼、控制流、寄存器、內(nèi)存和尋址邏輯操作和輔助功能都在庫中指定。通過完整的軟件支持,包括通用編譯器,僅基礎(chǔ)就可以創(chuàng)建簡化的通用計算機(jī)。標(biāo)準(zhǔn)擴(kuò)展旨在與所有標(biāo)準(zhǔn)基礎(chǔ)一起工作,并相互兼容,而不會引起任何沖突。

Deep Vision ARA-1 處理器圍繞完整的軟件工具套件構(gòu)建,是需要高計算、模型靈活性和能源經(jīng)濟(jì)性的邊緣應(yīng)用的明確選擇。該解決方案還旨在支持當(dāng)今最復(fù)雜、最具成本效益的邊緣 AI 應(yīng)用,同時消耗最少的功率。

RISC-V計算的創(chuàng)始人和領(lǐng)導(dǎo)者SiFive最近宣布,邊緣AI處理器公司Deep Vision將把SiFive RISC-V處理器IP整合到其下一代推理加速器中,以便在邊緣設(shè)備中實現(xiàn)更完整的計算機(jī)視覺和語音。結(jié)合這兩項超高效服務(wù),深度視覺將授權(quán)SiFive智能X280和SiFive Essentia S7處理器IP,以提高其解決方案的靈活性和功能,使客戶能夠為智能城市,智能零售,汽車和其他行業(yè)創(chuàng)建應(yīng)用程序。

得益于SiFive智能X280處理器,深度視覺加速器現(xiàn)在能夠支持更廣泛的神經(jīng)網(wǎng)絡(luò)模型,并包括浮點(diǎn)優(yōu)化。張量流精簡版和各種 AI/ML 數(shù)據(jù)格式(包括 BFLOAT16)由 SiFive 智能處理器上的 SiFive 智能擴(kuò)展提供支持。

SiFive Intelligence X280 處理器作為應(yīng)用類 AI 處理器的靈活性和可編程性擴(kuò)展了 Deep Vision 加速器久經(jīng)考驗的功能和性能,可快速支持硬件中新的和不斷發(fā)展的 AI 推理模型,以及圖像縮放、顏色轉(zhuǎn)換和白噪聲減除等 AI 預(yù)處理任務(wù)。

SiFive 基本型 S7 處理器與其他 SiFive RISC-V 處理器一起,提供實時、確定性的處理功能,允許異構(gòu)計算集群中的命令和控制應(yīng)用。SiFive Essential S7 處理器架構(gòu)具有更好的安全性和實時確定性,同時提供面積高效的每瓦性能,使其成為延遲敏感型邊緣計算應(yīng)用的理想選擇。

將SiFive智能RISC-V處理器的特性與深度視覺推理加速器相結(jié)合,是為快速增長的AI處理器行業(yè)快速高效地制造新硬件的自然方式。SiFive 智能擴(kuò)展和 RISC-V 矢量(如 SiFive 智能 X280 中實現(xiàn)的那樣)非常適合當(dāng)前 AI 應(yīng)用的需求。得益于SiFive業(yè)界領(lǐng)先的RISC-V處理器IP產(chǎn)品組合,SiFive在有效幫助人工智能公司構(gòu)建以市場為中心的系統(tǒng)方面具有獨(dú)特的優(yōu)勢。

此外,憑借同類最佳的 11+ SPECint2k6/GHz 基準(zhǔn)測試結(jié)果,SiFive 性能 P650 將其業(yè)務(wù)范圍擴(kuò)展到極高端領(lǐng)域,使其成為性能最高的可授權(quán) RISC-V 處理器。憑借多達(dá) 16 個內(nèi)核的多核、多集群 CPU 配置和最近批準(zhǔn)的虛擬機(jī)管理程序擴(kuò)展,SiFive Performance P650 可提供可擴(kuò)展的性能。隨著時間的推移,SiFive計劃擴(kuò)展其路線圖,以包括多集群功能,在單個SoC中支持128個或更多內(nèi)核。

RISC-V 加速了當(dāng)前的 AI 推理模型

SiFive將RISC-V處理器IP引入其下一代AI推理加速器,為邊緣設(shè)備中的計算機(jī)視覺和語音提供更快,更高效的計算能力。RISC-V處理器的高靈活性和強(qiáng)大功能使客戶能夠以比傳統(tǒng)技術(shù)更簡單,更快的速度創(chuàng)建復(fù)雜的AI應(yīng)用程序,如智能城市,智能零售和汽車。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 計算機(jī)
    +關(guān)注

    關(guān)注

    19

    文章

    7809

    瀏覽量

    93214
  • 編譯器
    +關(guān)注

    關(guān)注

    1

    文章

    1672

    瀏覽量

    51648
  • RISC-V
    +關(guān)注

    關(guān)注

    48

    文章

    2888

    瀏覽量

    53044
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    阿里巴巴發(fā)布通義千問旗艦推理模型Qwen3-Max-Thinking

    今天,我們正式發(fā)布千問旗艦推理模型Qwen3-Max-Thinking,創(chuàng)下數(shù)項權(quán)威評測全球新紀(jì)錄。
    的頭像 發(fā)表于 01-27 15:47 ?401次閱讀
    阿里巴巴發(fā)布通義千問旗艦<b class='flag-5'>推理模型</b>Qwen3-Max-Thinking

    LLM推理模型是如何推理的?

    這篇文章《(How)DoReasoningModelsReason?》對當(dāng)前大型推理模型(LRM)進(jìn)行了深刻的剖析,超越了表面的性能宣傳,直指其技術(shù)本質(zhì)和核心局限。以下是基于原文的詳細(xì)技術(shù)原理、關(guān)鍵
    的頭像 發(fā)表于 01-19 15:33 ?504次閱讀
    LLM<b class='flag-5'>推理模型</b>是如何<b class='flag-5'>推理</b>的?

    如何精準(zhǔn)驅(qū)動菜品識別模型--基于米爾瑞芯微RK3576邊緣計算

    及4K顯示輸出,提供完整的Debian/Linux軟件開發(fā)環(huán)境。 憑借其高性能NPU與豐富接口,該設(shè)備可高效支撐計算機(jī)視覺、智能分析等邊緣AI
    發(fā)表于 10-31 21:19

    工業(yè)視覺網(wǎng)關(guān):RK3576賦能多路檢測與邊緣AI

    ~150ms6TOPS NPU 邊緣AI推理易對接 MES / 追溯系統(tǒng) 一、產(chǎn)線痛點(diǎn):從“人看”到“機(jī)判”的轉(zhuǎn)變· 多工位/多角度同步:單機(jī)位覆蓋不足,典型項目需 8~12 路并發(fā),且畫面時序一致性要求高
    發(fā)表于 10-16 17:56

    什么是AI模型推理能力

    NVIDIA 的數(shù)據(jù)工廠團(tuán)隊為 NVIDIA Cosmos Reason 等 AI 模型奠定了基礎(chǔ),該模型近日在 Hugging Face 的物理推理模型排行榜中位列榜首。
    的頭像 發(fā)表于 09-23 15:19 ?1279次閱讀

    NVIDIA Nemotron Nano 2推理模型發(fā)布

    NVIDIA 正式推出準(zhǔn)確、高效的混合 Mamba-Transformer 推理模型系列 NVIDIA Nemotron Nano 2。
    的頭像 發(fā)表于 08-27 12:45 ?1793次閱讀
    NVIDIA Nemotron Nano 2<b class='flag-5'>推理模型</b>發(fā)布

    澎峰科技完成OpenAI最新開源推理模型適配

    澎峰科技現(xiàn)已完成 OpenAI 最新開源推理模型 gpt-oss-20b 在 DeepFusion 大模型一體機(jī)上的原生適配與優(yōu)化,用戶可一鍵啟用這顆“小而強(qiáng)悍”的新引擎,在本地享受企業(yè)級 AI 生產(chǎn)力!
    的頭像 發(fā)表于 08-14 11:34 ?1413次閱讀

    利用NVIDIA推理模型構(gòu)建AI智能體

    開放式推理模型能夠更快、更廣泛地進(jìn)行思考,為客戶服務(wù)、網(wǎng)絡(luò)安全、制造、物流和機(jī)器人等領(lǐng)域的 AI 智能體生成更明智的結(jié)果。
    的頭像 發(fā)表于 08-13 14:32 ?1601次閱讀
    利用NVIDIA<b class='flag-5'>推理模型</b>構(gòu)建<b class='flag-5'>AI</b>智能體

    模型推理顯存和計算量估計方法研究

    上進(jìn)行了實驗。實驗結(jié)果表明,所提出的估計方法具有較高的準(zhǔn)確性和實用性。 五、結(jié)論 本文針對大模型推理的顯存和計算量估計問題,提出了基于模型結(jié)構(gòu)和硬件
    發(fā)表于 07-03 19:43

    邊緣計算中的機(jī)器學(xué)習(xí):基于 Linux 系統(tǒng)的實時推理模型部署與工業(yè)集成!

    學(xué)習(xí)如何訓(xùn)練模型、導(dǎo)出模型,并在基于Linux的系統(tǒng)上運(yùn)行實時推理,并通過MQTT發(fā)布結(jié)果。這是一個簡單但完整的流程——從工作站上的建模到在邊緣設(shè)備
    的頭像 發(fā)表于 06-11 17:22 ?1002次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>計算</b>中的機(jī)器學(xué)習(xí):基于 Linux 系統(tǒng)的實時<b class='flag-5'>推理模型</b>部署與工業(yè)集成!

    詳解 LLM 推理模型的現(xiàn)狀

    領(lǐng)域的最新研究進(jìn)展,特別是自DeepSeekR1發(fā)布后興起的推理時間計算擴(kuò)展相關(guān)內(nèi)容。在LLM中實施和改進(jìn)推理簡單來說,基于LLM的推理模型是一種旨在通過生成中間
    的頭像 發(fā)表于 04-03 12:09 ?1634次閱讀
    詳解 LLM <b class='flag-5'>推理模型</b>的現(xiàn)狀

    NVIDIA GTC2025 亮點(diǎn) NVIDIA推出 DGX Spark個人AI計算機(jī)

    臺式超級計算機(jī)由 NVIDIA Grace Blackwell 驅(qū)動,為開發(fā)者、研究人員和數(shù)據(jù)科學(xué)家提供加速 AI 功能;系統(tǒng)由頭部計算機(jī)制造商(包括華碩、Dell Technolog
    的頭像 發(fā)表于 03-20 18:59 ?1643次閱讀
    NVIDIA GTC2025 亮點(diǎn)  NVIDIA推出 DGX Spark個人<b class='flag-5'>AI</b><b class='flag-5'>計算機(jī)</b>

    英偉達(dá)GTC25亮點(diǎn):NVIDIA Dynamo開源庫加速并擴(kuò)展AI推理模型

    DeepSeek-R1 上的吞吐量提高了 30 倍 NVIDIA 發(fā)布了開源推理軟件 NVIDIA Dynamo,旨在以高效率、低成本加速并擴(kuò)展 AI 工廠中的 AI
    的頭像 發(fā)表于 03-20 15:03 ?1241次閱讀

    NVIDIA 宣布推出 DGX Spark 個人 AI 計算機(jī)

    的 DGX? 個人 AI 超級計算機(jī)。 ? DGX Spark(前身為 Project DIGITS)支持 AI 開發(fā)者、研究人員、數(shù)據(jù)科學(xué)家和學(xué)生,在臺式電腦上對大模型進(jìn)行原型設(shè)計、
    發(fā)表于 03-19 09:59 ?788次閱讀
       NVIDIA 宣布推出 DGX Spark 個人 <b class='flag-5'>AI</b> <b class='flag-5'>計算機(jī)</b>

    英飛凌邊緣AI平臺通過Ultralytics YOLO模型增加對計算機(jī)視覺的支持

    計算機(jī)視覺的支持,擴(kuò)大了當(dāng)前對音頻、雷達(dá)和其他時間序列信號數(shù)據(jù)的支持范圍。在增加這項支持后,該平臺將能夠用于開發(fā)低功耗、低內(nèi)存的邊緣AI視覺
    的頭像 發(fā)表于 03-11 15:11 ?818次閱讀
    英飛凌<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>平臺通過Ultralytics YOLO<b class='flag-5'>模型</b>增加對<b class='flag-5'>計算機(jī)</b><b class='flag-5'>視覺</b>的支持