前方高能
誰說打游戲的顯卡不能搞AI?
MTT S80表示:
“我!全!都!要!”
摩爾線程“全功能”圖形顯卡MTT S80,不僅游戲渲染性能強(qiáng)大,能玩《黑神話:悟空》,現(xiàn)在還能本地部署DeepSeek R1蒸餾模型。搭配最新發(fā)布的MUSA SDK RC3.1.1版本,開發(fā)者直接用開源框架Ollama就能開跑,學(xué)術(shù)黨、AI極客的福音來了。
MTT S80本地運(yùn)行DeepSeek-R1 14B模型的示例圖
手把手教程:?
3步搞定DeepSeek模型部署
第一步:環(huán)境準(zhǔn)備
系統(tǒng):Ubuntu 22.04
工具:MUSA SDK RC3.1.1(文末下載)
框架:Ollama(開源免費(fèi),小白友好)
第二步:模型下載
打開Ollama,直接拉取DeepSeek R1系列模型,1.5B/7B/8B/14B輕量版任選;
在Q4_K_M量化格式下,MTT S80的16GB顯存可最高支持DeepSeek-R1-Distill-Qwen-14B模型的高效推理,充分滿足輕量化AI開發(fā)需求
第三步:一鍵推理
終端輸入代碼,秒出結(jié)果!
我們已附上實(shí)戰(zhàn)部署指南,詳細(xì)解析DeepSeek R1 7B和14B蒸餾模型的配置流程與優(yōu)化技巧。
對游戲黨:買顯卡送AI算力,血賺!
對開發(fā)者:不用搶云服務(wù)器,本地部署成本直降!
對學(xué)生黨:論文實(shí)驗(yàn)、輕量級AI開發(fā),一臺機(jī)器全搞定!
關(guān)于摩爾線程
摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計(jì)算的基礎(chǔ)設(shè)施和一站式解決方案,為各行各業(yè)的數(shù)智化轉(zhuǎn)型提供強(qiáng)大的AI計(jì)算支持。
我們的目標(biāo)是成為具備國際競爭力的GPU領(lǐng)軍企業(yè),為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進(jìn)的加速計(jì)算平臺。我們的愿景是為美好世界加速。
-
AI
+關(guān)注
關(guān)注
88文章
35136瀏覽量
279730 -
摩爾線程
+關(guān)注
關(guān)注
2文章
235瀏覽量
5360 -
大模型
+關(guān)注
關(guān)注
2文章
3141瀏覽量
4065
原文標(biāo)題:游戲顯卡跑AI大模型?使用MTT S80解鎖DeepSeek R1蒸餾模型本地推理
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
摩爾線程發(fā)布圖形顯卡驅(qū)動(dòng)程序v300.110.1
摩爾線程MTT X300顯卡全新性能升級
摩爾線程發(fā)布圖形顯卡驅(qū)動(dòng)程序v300.110
摩爾線程發(fā)布圖形顯卡驅(qū)動(dòng)程序v290.100.2
摩爾線程GPU成功適配Deepseek-V3-0324大模型

評論