要點如下:
· 高通與Meta攜手優(yōu)化Meta Llama 3大語言模型,將在驍龍旗艦平臺實現(xiàn)終端側(cè)執(zhí)行,加速產(chǎn)品上市并充分利用終端側(cè)AI優(yōu)勢。
· 開發(fā)者可借助高通AI Hub的資源及工具,在驍龍平臺優(yōu)化運行Llama 3,進一步縮短產(chǎn)品上市周期且充分發(fā)揮AI潛能。
· 高通憑借業(yè)界頂尖的NPU、CPU、GPU技術(shù)組合,賦予生成式AI應用即時性、高可靠性、隱私保護、情境感知個性化及經(jīng)濟效益。
2024年4月19日,圣迭戈——高通技術(shù)公司與Meta宣布達成合作,共同優(yōu)化Meta Llama 3大語言模型(LLM)在智能手機、PC、VR/AR頭顯及汽車等終端設備上的執(zhí)行。終端側(cè)運行Llama 3具備卓越的響應速度、更強的隱私保護和可靠性,同時為用戶帶來個性化體驗。
高通技術(shù)公司高級副總裁兼技術(shù)規(guī)劃和邊緣解決方案業(yè)務總經(jīng)理馬德嘉表示:“我們對Meta開放Meta Llama 3的策略表示贊賞,高通與Meta均致力于賦能開發(fā)者,推動AI創(chuàng)新。高通的終端側(cè)AI領導地位,結(jié)合覆蓋各類邊緣終端的廣泛市場布局,使我們有能力在全球范圍內(nèi)擴大Llama生態(tài)系統(tǒng)優(yōu)勢,助力客戶、合作伙伴及開發(fā)者創(chuàng)造全新AI體驗?!?/p>
本次合作旨在賦能OEM廠商及開發(fā)者,在搭載未來旗艦驍龍?平臺的終端設備上支持Llama 3,推動生成式AI功能的普及。高通技術(shù)公司的異構(gòu)計算技術(shù)能夠無縫整合業(yè)界領先的CPU、GPU和NPU處理器,并結(jié)合先進的內(nèi)存架構(gòu),助力客戶、合作伙伴及開發(fā)者實現(xiàn)最佳應用性能、能效及電池續(xù)航。
開發(fā)者可通過高通AI Hub獲取相關(guān)資源和工具,以便在驍龍平臺優(yōu)化運行Llama 3。高通AI Hub現(xiàn)已提供約100個優(yōu)化AI模型,有助于開發(fā)者縮短產(chǎn)品上市周期,并充分發(fā)揮終端側(cè)AI優(yōu)勢。如需了解更多信息,敬請關(guān)注高通每月開發(fā)者簡報。
高通技術(shù)公司與Meta共同致力于推動創(chuàng)新,打造下一代AI體驗。此次合作是雙方長期合作關(guān)系的重要里程碑,彰顯了雙方以強大AI能力賦能開發(fā)者和用戶的堅定決心。
-
高通
+關(guān)注
關(guān)注
78文章
7624瀏覽量
193247 -
Meta
+關(guān)注
關(guān)注
0文章
303瀏覽量
11868 -
語言模型
+關(guān)注
關(guān)注
0文章
561瀏覽量
10795
發(fā)布評論請先 登錄
使用 NPU 插件對量化的 Llama 3.1 8b 模型進行推理時出現(xiàn)“從 __Int64 轉(zhuǎn)換為無符號 int 的錯誤”,怎么解決?
無法在OVMS上運行來自Meta的大型語言模型 (LLM),為什么?
Meta組建四大專研小組,深入探索DeepSeek模型
Meta重磅發(fā)布Llama 3.3 70B:開源AI模型的新里程碑

評論