chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

躍昉科技實現(xiàn)DeepSeek大模型本地化運行

躍昉科技LeapFive ? 來源:躍昉科技LeapFive ? 2025-03-06 14:47 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

LeapFive

從“云端排隊”到“擁有私人 Co-Pilot”,邊緣AI也能行!

DeepSeek 問答響應(yīng)又超時了?

“無需機(jī)房,無需服務(wù)器,一枚U盤即可驅(qū)動DeepSeek大模型?” 是的,我們做到了!

躍昉科技,作為國內(nèi)領(lǐng)先的RISC-V架構(gòu)SoC芯片公司,成功將DeepSeek大模型本地化運行,以U盤形態(tài)重新定義AI計算的使用方式。

AMC(AI Mini Computer)由躍昉科技基于自研RISC-V芯片打造,通過USB 直連主機(jī),兼容多種操作系統(tǒng),支持本地化人工智能推理應(yīng)用部署,如基于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的視覺應(yīng)用?,F(xiàn)在,AMC又有了大模型應(yīng)用的加持,不依賴云端、不受網(wǎng)絡(luò)波動,即插即用,隨時推理。讓普通電腦秒變AI工作站,讓AI隨時待命,快速響應(yīng),成為你的專屬智能助手(Co-Pilot)!

小身材藏著大機(jī)會|“可用”到“好用”的進(jìn)行時

即插即用,無需服務(wù)器,USB接入,10秒完成部署。

3W超低功耗,計算性能表現(xiàn)與模型本身,都具備優(yōu)化潛力。

本地私有知識庫,保護(hù)數(shù)據(jù)隱私,隨身攜帶,安全可控。

網(wǎng)頁本地化訪問(測試版),相比云端排隊、等待響應(yīng),你的AI助手隨時在線。

e5c116e6-f998-11ef-9310-92fbcf53809c.jpg

*已經(jīng)實際部署運行成功的模型

UI 界面:設(shè)計簡潔直觀,用戶可快速上手,無需復(fù)雜配置,Less is More。

OTA + 場景化模型,開啟邊緣AI計算新范式!

在 AI 計算邁向多場景應(yīng)用的今天,開發(fā)者希望更靈活地訓(xùn)練和部署模型,用戶則期待AI能夠精準(zhǔn)適配個性化需求。然而,傳統(tǒng)AI計算依賴云端,高算力成本、網(wǎng)絡(luò)延遲、數(shù)據(jù)隱私等問題,使其難以真正落地到邊緣多樣化應(yīng)用場景。

部署DeepSeek到AMC的過程,也引發(fā)了我們更深層的思考并發(fā)現(xiàn):DeepSeek 的小型化、低成本、邊緣設(shè)備 OTA(Over the Air 空中升級) 特性,有機(jī)會成為邊緣AI計算全新的應(yīng)用落地方法,推動AI計算從云端走向邊緣,讓AI適配更精細(xì)、更靈活地適配本地化應(yīng)用。

e5e890ea-f998-11ef-9310-92fbcf53809c.png

“大而全”的模型并不適用于邊緣AI應(yīng)用,應(yīng)該按場景的需要做更適配、更精巧、更高效的模型

邊緣 AI 計算的核心在于精準(zhǔn)解決特定場景問題,那么合適的模型從何而來?我們認(rèn)為可以通過開放的場景化模型市場,吸引更多的開發(fā)者加入進(jìn)來,針對教育、工業(yè)、辦公、個人助手等不同需求,訓(xùn)練更精巧的 AI 模型,以適配本地場景化的應(yīng)用需求。

OTA有可能成為AI場景動態(tài)適配的標(biāo)準(zhǔn)方式

傳統(tǒng)OTA僅用于遠(yuǎn)程軟件升級,如果考慮邊緣AI基于場景化的應(yīng)用,則OTA就需要一個新增的按需拉取和部署AI模型的能力,使邊緣設(shè)備盡管在硬件資源限制條件下,仍可以通過動態(tài)的模型選擇,得到較好的AI交互體驗。

商業(yè)模式也將有革新機(jī)會,邊緣AI的生態(tài)將創(chuàng)造更高價值

“OTA + 場景化模型”這樣的新范式,將為邊緣AI計算構(gòu)建開放的,可訂閱、可迭代的模型市場提供可行性。用戶可以低成本試用AI模型,再按需訂閱,而開發(fā)者則可以通過市場提供AI模型,并接受用戶的反饋不斷優(yōu)化模型體驗,形成邊緣AI計算的正向循環(huán),加速AI在邊緣端的落地應(yīng)用。

我們認(rèn)為未來的AI計算,不應(yīng)該只存在于云端之上,更應(yīng)該真正地屬于個人!

而對于個人用戶來說,專屬AI 將可以變成個人成長的長期伙伴

每個人的知識、經(jīng)驗、決策方式都是獨一無二的,所以AI應(yīng)用也應(yīng)該能做到個性化的應(yīng)用。AMC的隨身攜帶可以讓AI在不同場景中適應(yīng)用戶需求,即時響應(yīng)、智能輔助。與此同時,AMC通過長期數(shù)據(jù)存儲與學(xué)習(xí),不斷沉淀、優(yōu)化,逐步構(gòu)建屬于個人的Digital Twins(數(shù)字孿生),讓AI計算真正理解,持續(xù)成長,成為個人的長期智慧資產(chǎn)。

離線運行,多場景隨時調(diào)用,無論辦公、學(xué)習(xí)還是工業(yè)應(yīng)用,AI即插即用,不依賴云端。

存儲與回傳,依托AMC本體32GB的存儲能力,使用過程中的數(shù)據(jù)可本地化存儲,也可主動同步到個人主機(jī),形成專屬AI記憶 。

讓AI模型個性化成長,成為“最懂你的聰明助手”并且隨時隨地即時響應(yīng)。

從 “大而全” 到 “小而精”,我們看到了AMC在AI計算領(lǐng)域的潛力,有望讓AI計算變得更精準(zhǔn)、更高效。場景化模型 OTA能讓開發(fā)者更快構(gòu)建AI,用戶更自由地使用AI,推動AI計算從通用向定制、從固定向靈活、從單一向多元發(fā)展,真正賦能千行百業(yè)。

躍昉科技,依托RISC-V計算架構(gòu),不斷探索芯片、邊緣AI計算與智能互聯(lián)的創(chuàng)新融合,加速推動國產(chǎn)AI計算自主化。我們相信,未來的AI計算不再是一種昂貴的資源,而是普惠的能力。個性化的智能,是一股驅(qū)動世界躍向更智能未來的核心動力!

廣東躍昉科技有限公司聚焦研發(fā)基于RISC-V架構(gòu)的SoC芯片產(chǎn)品及系統(tǒng)解決方案,并提供從操作系統(tǒng)到云平臺的全?;A(chǔ)智能軟件服務(wù),通過融合人工智能、物聯(lián)網(wǎng)區(qū)塊鏈等交叉領(lǐng)域技術(shù)為中國數(shù)字經(jīng)濟(jì)的創(chuàng)新應(yīng)用賦能。

躍昉科技作為RISC-V架構(gòu)SoC芯片設(shè)計及產(chǎn)業(yè)應(yīng)用的開拓者,已推出系列基于RISC-V架構(gòu)的高性能SoC芯片及產(chǎn)品,覆蓋AIoT邊端物聯(lián)、控制和計算等應(yīng)用領(lǐng)域,集高效能計算資源、豐富工業(yè)接口、穩(wěn)定可靠品質(zhì)等特性于一體。依托于全棧技術(shù)能力,躍昉科技正持續(xù)深耕于智慧能源、智慧物流、智慧城市、智慧工廠等領(lǐng)域,旨在為客戶帶來專業(yè)化、高品質(zhì)的產(chǎn)品和服務(wù)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • RISC-V
    +關(guān)注

    關(guān)注

    47

    文章

    2698

    瀏覽量

    50869
  • 躍昉科技
    +關(guān)注

    關(guān)注

    0

    文章

    80

    瀏覽量

    2778
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3351

    瀏覽量

    4723
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    821

    瀏覽量

    2572

原文標(biāo)題:RISC-V計算新突破!躍昉AMC將DeepSeek大模型裝進(jìn)口袋

文章出處:【微信號:躍昉科技LeapFive,微信公眾號:躍昉科技LeapFive】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    SL1680 SoC本地運行DeepSeek R1 1.5B大模型

    深蕾半導(dǎo)體SL1680 SoC本地成功運行DeepSeek R1 Distill Qwen2.5 1.5B大模型,展示了執(zhí)行過程及本地小參數(shù)
    的頭像 發(fā)表于 04-17 17:09 ?598次閱讀
    SL1680 SoC<b class='flag-5'>本地</b><b class='flag-5'>運行</b><b class='flag-5'>DeepSeek</b> R1 1.5B大<b class='flag-5'>模型</b>

    軟通動力助力黑龍江大學(xué)完成DeepSeek模型本地化部署

    DeepSeek作為新一代人工智能技術(shù),憑借其強(qiáng)大的數(shù)據(jù)處理能力和深度學(xué)習(xí)算法為教育提供了新解法,使 AI+教育產(chǎn)業(yè)迸發(fā)更大生機(jī)。緊隨行業(yè)趨勢,黑龍江大學(xué)經(jīng)濟(jì)與工商管理學(xué)院基于軟通動力AI+DeepSeek模型一體機(jī)
    的頭像 發(fā)表于 04-03 15:20 ?817次閱讀

    博實結(jié)完成DeepSeek模型本地化部署

    近日,公司完成DeepSeek R1 671B大模型本地化部署。通過構(gòu)建自主可控的AI基礎(chǔ)設(shè)施,公司同步實現(xiàn)研發(fā)智能升級、研發(fā)成本重構(gòu)、數(shù)據(jù)安全閉環(huán)與應(yīng)用場景突破,為產(chǎn)業(yè)智能
    的頭像 發(fā)表于 03-19 16:31 ?880次閱讀

    RK3588開發(fā)板上部署DeepSeek-R1大模型的完整指南

    DeepSeek作為國產(chǎn)AI大數(shù)據(jù)模型的代表,憑借其卓越的推理能力和高效的文本生成技術(shù),在全球人工智能領(lǐng)域引發(fā)廣泛關(guān)注。DeepSeek-R1作為該系列最新迭代版本,實現(xiàn)了長文本處理效
    發(fā)表于 02-27 16:45

    行芯完成DeepSeek-R1大模型本地化部署

    近日,行芯正式宣布完成 DeepSeek-R1 大模型本地化部署,實現(xiàn)在多場景、多產(chǎn)品中應(yīng)用。解鎖“芯”玩法,開啟“芯”未來!
    的頭像 發(fā)表于 02-24 15:17 ?1043次閱讀

    DeepSeek沖擊(含本地化部署實踐)

    題,要分析DeepSeek的實力,最簡單的方式就是跟ChatGPT進(jìn)行對比。 模型分類 ChatGPT目前有兩種大模型,分
    的頭像 發(fā)表于 02-23 17:10 ?820次閱讀
    <b class='flag-5'>DeepSeek</b>沖擊(含<b class='flag-5'>本地化</b>部署實踐)

    浪潮信息:元腦EPAI已接入DeepSeek,大幅提升DeepSeek企業(yè)應(yīng)用準(zhǔn)確率

    結(jié)合,深度開發(fā)模型潛力,快速實現(xiàn)本地化部署DeepSeek,構(gòu)建準(zhǔn)確率高、安全穩(wěn)定的專屬智能應(yīng)用。實測數(shù)據(jù)顯示,DeepSeek在元腦企智E
    的頭像 發(fā)表于 02-23 07:32 ?766次閱讀
    浪潮信息:元腦EPAI已接入<b class='flag-5'>DeepSeek</b>,大幅提升<b class='flag-5'>DeepSeek</b>企業(yè)應(yīng)用準(zhǔn)確率

    曙光順利完成DeepSeek模型本地化多點私有部署

    計算中心等政務(wù)云服務(wù)商,依托本地政務(wù)云資源池,順利完成DeepSeek模型本地化多點私有部署,并打造出數(shù)字人“撫小智”。撫州市還計劃將DeepSe
    的頭像 發(fā)表于 02-22 14:16 ?987次閱讀

    紹興數(shù)據(jù)局率先實現(xiàn)政務(wù)環(huán)境下的DeepSeek模型部署

    ,為各行各業(yè)帶來無窮活力與無限可能。紹興市數(shù)據(jù)局密切關(guān)注大模型技術(shù)發(fā)展,持續(xù)進(jìn)行深入測試和學(xué)習(xí),積極推進(jìn)AI技術(shù)在智慧政務(wù)領(lǐng)域的應(yīng)用。春節(jié)復(fù)工后,數(shù)據(jù)局迅速聯(lián)合政務(wù)云服務(wù)商,成功部署本地化模型,后續(xù)可為紹興市各類政府部門提供基于
    的頭像 發(fā)表于 02-20 11:22 ?1648次閱讀
    紹興數(shù)據(jù)局率先<b class='flag-5'>實現(xiàn)</b>政務(wù)環(huán)境下的<b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b>部署

    云天天書大模型訓(xùn)推一體機(jī)成功適配DeepSeek

    近日,云天天書大模型訓(xùn)推一體機(jī)成功適配DeepSeek。該一體機(jī)由云天勵飛與華為聯(lián)合推出,可以部署在華為昇騰服務(wù)器上,支持私有部署,實現(xiàn)開箱即用,滿足
    的頭像 發(fā)表于 02-14 11:02 ?1172次閱讀

    了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應(yīng)用選擇

    DeepSeek-R1 更適合電子工程核心工作流,因其在符號數(shù)學(xué)、代碼嚴(yán)謹(jǐn)性、長文檔結(jié)構(gòu)理解上的優(yōu)勢。 二、其他領(lǐng)域?qū)S?b class='flag-5'>模型推薦 若需更高精度,可結(jié)合以下工具組成混合方案: 1. 符號計算增強(qiáng)
    發(fā)表于 02-14 02:08

    龍芯處理器與DeepSeek完成適配

    龍芯中科官方宣布,搭載龍芯 3 號 CPU 的設(shè)備成功啟動運行 DeepSeek R1-7B 模型,實現(xiàn)本地化部署,性能卓越,成本優(yōu)異。
    的頭像 發(fā)表于 02-10 17:00 ?1191次閱讀

    烽火通信推動DeepSeek本地化部署,金融行業(yè)率先示范

    近日,烽火通信攜手長江計算、昇騰及華為云團(tuán)隊,在金融領(lǐng)域取得了重要突破。他們成功助力某國有大型銀行,率先完成了DeepSeek-V3大模型本地化推理服務(wù)部署。 此次部署采用了長江計算G440K
    的頭像 發(fā)表于 02-10 15:03 ?1654次閱讀

    英特爾酷睿Ultra處理器支持DeepSeek運行

    Janus-Pro更是將其多模態(tài)的本領(lǐng)發(fā)揮至極。DeepSeek模型因其高效、易部署等特性,非常適合在英特爾AI PC進(jìn)行本地化應(yīng)用。
    的頭像 發(fā)表于 02-08 10:13 ?1156次閱讀

    龍芯處理器成功運行DeepSeek模型

    近日,搭載龍芯3號CPU的設(shè)備成功啟動運行DeepSeek R1 7B模型,實現(xiàn)本地化部署,性能卓越,成本優(yōu)異,可為廣大用戶提供更快、更強(qiáng)、
    的頭像 發(fā)表于 02-07 16:03 ?765次閱讀
    龍芯處理器成功<b class='flag-5'>運行</b><b class='flag-5'>DeepSeek</b>大<b class='flag-5'>模型</b>